Skip to Main Content

Características

La característica principal de text-generation-webui es la generación de texto, que incluye las siguientes capacidades:

  • Comunicación interactiva con el modelo a través de chat, notas interactivas y conversación
  • Integración con múltiples entornos de ejecución de modelos, que admiten varios formatos de modelo y entornos de ejecución, como peft, llama.cpp y GPTQ-for-LLaMa
  • Soporte GUI para el ajuste fino del entrenamiento del modelo, incluido el entrenamiento para peft LoRA
  • Extensibilidad, permitiendo a otros desarrolladores de la comunidad integrarse con text-generation-webui a través del desarrollo de extensiones