text-generation-webui

text-generation-webui 是当前社区内整体功能最完善的文字生成工作台

包括许多核心特性

• 可以使用聊天，交互式笔记，对话等方式和模型进行交互
• 集成了多种模型运行时环境，支持 peft，llama.cpp，GPTQ-for-LLaMa 多种模型格式和运行时环境
• 提供微调模型训练的 GUI 支持训练 peft LoRA
• 扩展能力，其他社区开发者可以通过开发扩展的方式接入 text-generation-webui