环境安装
安装 text-generation-webui
使用安装包进行安装
下载安装包后进行解压 然后遵循 INSTRUCTIONS.TXT 文件中的安装流程,执行安装包内的 start_xx.sh 脚本进行安装
从源码进行安装
安装
git clone https://github.com/oobabooga/text-generation-webui
cd text-generation-webui
pip install -r requirements.txt
启动
# default it will listen 7860
# access http://localhost:7860
python server.py
等待启动后,访问 http://localhost:7860 进行使用
模型下载
安装完 text-generation-webui 后, 还需要下载对应的模型才能进行使用
启动 text-generation-webui, 切换到 Model 选项卡
找到下载模型
输入模型的名称进行下载,对于不同语言,建议选择不同的模型