Skip to Main Content

Text-Generation-Webui

text-generation-webui ist derzeit die funktionsreichste Arbeitsbank für Textgenerierung in der Community.

Es umfasst viele Kernfunktionen:

  • Interagieren Sie mit Modellen über Chat, interaktive Notebooks und Gespräche.
  • Integriert mit mehreren Modell-Runtime-Umgebungen, die verschiedene Modellformate und Runtime-Umgebungen wie peft, llama.cpp, GPTQ-for-LLaMa unterstützen.
  • Bietet GUI-Unterstützung für die Feinabstimmung des Modelltrainings, einschließlich des Trainings von peft LoRA.
  • Erweiterbare Fähigkeiten, andere Community-Entwickler können sich über Entwicklungserweiterungen mit Text-Generation-Webui integrieren.