Text-Generation-Webui
text-generation-webui ist derzeit die funktionsreichste Arbeitsbank für Textgenerierung in der Community.
Es umfasst viele Kernfunktionen:
- Interagieren Sie mit Modellen über Chat, interaktive Notebooks und Gespräche.
- Integriert mit mehreren Modell-Runtime-Umgebungen, die verschiedene Modellformate und Runtime-Umgebungen wie peft, llama.cpp, GPTQ-for-LLaMa unterstützen.
- Bietet GUI-Unterstützung für die Feinabstimmung des Modelltrainings, einschließlich des Trainings von peft LoRA.
- Erweiterbare Fähigkeiten, andere Community-Entwickler können sich über Entwicklungserweiterungen mit Text-Generation-Webui integrieren.