Skip to Main Content

Funktionen

Das Kernmerkmal von text-generation-webui ist die Textgenerierung, die folgende Fähigkeiten umfasst:

  • Interaktive Kommunikation mit dem Modell durch Chat, interaktive Notizen und Konversation
  • Integration mit mehreren Modell-Runtime-Umgebungen, die verschiedene Modellformate und Laufzeitumgebungen wie peft, llama.cpp und GPTQ-for-LLaMa unterstützen.
  • GUI-Unterstützung für die Feinabstimmung des Modelltrainings, einschließlich des Trainings für peft LoRA
  • Erweiterbarkeit, die es anderen Community-Entwicklern ermöglicht, sich mit text-generation-webui durch die Entwicklung von Erweiterungen zu integrieren