Funktionen
Das Kernmerkmal von text-generation-webui ist die Textgenerierung, die folgende Fähigkeiten umfasst:
- Interaktive Kommunikation mit dem Modell durch Chat, interaktive Notizen und Konversation
- Integration mit mehreren Modell-Runtime-Umgebungen, die verschiedene Modellformate und Laufzeitumgebungen wie peft, llama.cpp und GPTQ-for-LLaMa unterstützen.
- GUI-Unterstützung für die Feinabstimmung des Modelltrainings, einschließlich des Trainings für peft LoRA
- Erweiterbarkeit, die es anderen Community-Entwicklern ermöglicht, sich mit text-generation-webui durch die Entwicklung von Erweiterungen zu integrieren
📄️ Interaktiver Modus
text-generation-webui unterstützt verschiedene interaktive Modi.
📄️ Erweiterungen/Plugins
text-generation-webui unterstützt verschiedene Plugins.