text-generation-webui

text-generation-webui est actuellement le banc d'essai de génération de texte le plus riche en fonctionnalités de la communauté.

Il comprend de nombreuses fonctionnalités de base :

• Interagir avec des modèles en utilisant le chat, des notebooks interactifs et des conversations.
• Intégré à plusieurs environnements d'exécution de modèles, prenant en charge différents formats de modèles et environnements d'exécution tels que peft, llama.cpp, GPTQ-for-LLaMa.
• Fournit une assistance GUI pour le réglage fin de la formation de modèle, y compris la formation de peft LoRA.
• Capacités extensibles, d'autres développeurs de la communauté peuvent intégrer text-generation-webui grâce à des extensions de développement.