Fonctionnalités
La fonctionnalité principale de text-generation-webui est la génération de texte, qui comprend les capacités suivantes :
- Communication interactive avec le modèle via le chat, des notes interactives et des conversations
- Intégration avec plusieurs environnements d'exécution de modèle, prenant en charge différents formats de modèle et environnements d'exécution tels que peft, llama.cpp et GPTQ-for-LLaMa
- Support GUI pour l'affinage de la formation du modèle, y compris la formation pour peft LoRA
- Extensibilité, permettant à d'autres développeurs de la communauté d'intégrer text-generation-webui grâce au développement d'extensions
📄️ Mode interactif
text-generation-webui prend en charge plusieurs modes interactifs différents.
📄️ Extensions/Plugins
text-generation-webui prend en charge divers plugins.