Installation de l'environnement
Installation de text-generation-webui
Installation à partir d'un package
Après avoir téléchargé le package, décompressez-le et suivez le processus d'installation dans le fichier INSTRUCTIONS.TXT. Exécutez le script start_xx.sh dans le package pour installer.
Installation à partir du code source
Installation
git clone https://github.com/oobabooga/text-generation-webui
cd text-generation-webui
pip install -r requirements.txt
Lancement
# par défaut, il écoutera sur le port 7860
# accédez à http://localhost:7860
python server.py
Après avoir attendu le lancement, rendez-vous sur http://localhost:7860 pour utiliser.
Téléchargement du modèle
Après avoir installé text-generation-webui, vous devez également télécharger le modèle correspondant pour l'utiliser.
Démarrez text-generation-webui et passez à l'onglet Modèle.
Trouvez et téléchargez des modèles.
Entrez le nom du modèle à télécharger. Pour différentes langues, il est recommandé de choisir différents modèles.
- Anglais TheBloke/Wizard-Vicuna-7B-Uncensored-HF
- Chinois P01son/Linly-Chinese-LLaMA-7b-hf
- Coréen kollama-7b