веб-интерфейс-генерации-текста

Веб-интерфейс-генерации-текста в настоящее время является наиболее функциональной рабочей платформой для генерации текста в сообществе.

Он включает множество основных функций:

• Взаимодействие с моделями с помощью чата, интерактивных блокнотов и разговоров.
• Интегрирован с несколькими средами выполнения моделей, поддерживающими различные форматы моделей и среды выполнения, такие как peft, llama.cpp, GPTQ-for-LLaMa.
• Предоставляет поддержку GUI для настройки обучения модели, включая обучение LoRA peft.
• Расширяемые возможности, другие разработчики сообщества могут интегрироваться с веб-интерфейсом-генерации-текста через разработку расширений.