Características
La característica principal de text-generation-webui es la generación de texto, que incluye las siguientes capacidades:
- Comunicación interactiva con el modelo a través de chat, notas interactivas y conversación
- Integración con múltiples entornos de ejecución de modelos, que admiten varios formatos de modelo y entornos de ejecución, como peft, llama.cpp y GPTQ-for-LLaMa
- Soporte GUI para el ajuste fino del entrenamiento del modelo, incluido el entrenamiento para peft LoRA
- Extensibilidad, permitiendo a otros desarrolladores de la comunidad integrarse con text-generation-webui a través del desarrollo de extensiones
📄️ Modo interactivo
text-generation-webui admite varios modos interactivos diferentes.
📄️ Extensiones/Plugins
text-generation-webui admite varios plugins.