text-generation-webui

text-generation-webui es actualmente el banco de trabajo de generación de texto más completo en la comunidad.

Incluye muchas características principales:

• Interactúa con modelos utilizando chat, cuadernos interactivos y conversaciones.
• Integrado con múltiples entornos de tiempo de ejecución de modelos, admite varios formatos de modelo y entornos de tiempo de ejecución como peft, llama.cpp, GPTQ-for-LLaMa.
• Proporciona soporte GUI para el ajuste fino del entrenamiento del modelo, incluido el entrenamiento de peft LoRA.
• Capacidades extensibles, otros desarrolladores de la comunidad pueden integrarse con text-generation-webui a través de extensiones de desarrollo.