跳到主要内容

交互模式

text-generation-webui 支持几种不同的交互模式

切换模式

在 Interface mode 选项卡,可以修改交互模式,cat_chat 和 chat 为同一个选项 切换模式后,点击最下方 Apply and restart the interface 重启

img.png

模式效果解释场景
default默认模式默认模式下包括两种方式,
1. 输入文字,模型进行文字续写
2. 输入指令,根据训练数据,模型进行指令响应
普通文字生成, 指令, 工具
chat聊天模式对话机器人聊天模式,包括两种方式
1. 对话机器人聊天模式
2. 角色扮演模式,预先设定角色的背景,让模型扮演该角色
聊天, 色色
notebook交互笔记本模式只有一个交互式的文本框,可以在生成文本时停止,手动修改不满意部分,然后继续生成写作

默认模式

在左侧输入文字,点击Generate进行生成

img.png

默认模式下通过修改 Prompt 模板切换文字生成模式和指令模式,不同的模型可能需要不同的指令格式

文字生成模式

img_1.png

指令模式

不同的模型可能需要不同的指令

img_1.png

chat 模式

在输入框输入对话,模型会作为对话人进行文字生成

对话模式

img.png

角色扮演模式

切换到 Chat settings 选项卡,选择角色 img_2.png

img.png

交互笔记本模式

img.png