交互模式
text-generation-webui 支持几种不同的交互模式
切换模式
在 Interface mode 选项卡,可以修改交互模式,cat_chat 和 chat 为同一个选项 切换模式后,点击最下方 Apply and restart the interface 重启
模式 | 效果 | 解释 | 场景 |
---|---|---|---|
default | 默认模式 | 默认模式下包括两种方式, 1. 输入文字,模型进行文字续写 2. 输入指令,根据训练数据,模型进行指令响应 | 普通文字生成, 指令, 工具 |
chat | 聊天模式 | 对话机器人聊天模式,包括两种方式 1. 对话机器人聊天模式 2. 角色扮演模式,预先设定角色的背景,让模型扮演该角色 | 聊天, 色色 |
notebook | 交互笔记本模式 | 只有一个交互式的文本框,可以在生成文本时停止,手动修改不满意部分,然后继续生成 | 写作 |
默认模式
在左侧输入文字,点击Generate进行生成
默认模式下通过修改 Prompt 模板切换文字生成模式和指令模式,不同的模型可能需要不同的指令格式
文字生成模式
指令模式
不同的模型可能需要不同的指令
chat 模式
在输入框输入对话,模型会作为对话人进行文字生成
对话模式
角色扮演模式
切换到 Chat settings 选项卡,选择角色