Skip to Main Content

Fonctionnalités

La fonctionnalité principale de text-generation-webui est la génération de texte, qui comprend les capacités suivantes :

  • Communication interactive avec le modèle via le chat, des notes interactives et des conversations
  • Intégration avec plusieurs environnements d'exécution de modèle, prenant en charge différents formats de modèle et environnements d'exécution tels que peft, llama.cpp et GPTQ-for-LLaMa
  • Support GUI pour l'affinage de la formation du modèle, y compris la formation pour peft LoRA
  • Extensibilité, permettant à d'autres développeurs de la communauté d'intégrer text-generation-webui grâce au développement d'extensions