跳到主要内容

功能

text-generation-webui 的核心功能为文字生成，包括以下特性

  • 可以使用聊天，交互式笔记，对话等方式和模型进行交互
  • 集成了多种模型运行时环境，支持 peft，llama.cpp，GPTQ-for-LLaMa 多种模型格式和运行时环境
  • 提供微调模型训练的 GUI 支持训练 peft LoRA
  • 扩展能力，其他社区开发者可以通过开发扩展的方式接入 text-generation-webui