Reddit Crushes Post Feineinstellung
Online-Erfahrung
Ergebnisse
Datenbeschreibung
Die Trainingsdaten stammen aus dem Reddit Crushes-Subreddit.
Alle Beiträge unter dem Thema Crushes wurden gesammelt.
Kurze Einführung
Sammeln Sie Postdaten von Reddit Crush, konvertieren Sie sie in einfache Textdaten und führen Sie ein Feintuning-Training auf dem TheBloke/Wizard-Vicuna-7B-Uncensored-HF-Modell durch.
Tutorial
Trainieren des Feineinstellungsmodells
Installieren Sie text-generation-webui
Befolgen Sie die Installationsanleitung von text-generation-webui, um text-generation-webui zu installieren.
Starten Sie text-generation-webui und wählen Sie Modell aus dem oberen Tab aus.
Geben Sie im Modell-Tab TheBloke/Wizard-Vicuna-7B-Uncensored-HF ein und klicken Sie dann auf Download, um das Basismodell herunterzuladen (Sie können das Modell auch manuell herunterladen und in das Verzeichnis models des Installationsverzeichnisses von text-generation-webui stellen).
Laden Sie den vorbereiteten Reddit Crush-Datensatz herunter und platzieren Sie den Datensatz im Verzeichnis training/datasets des Installationsverzeichnisses von text-generation-webui.
Wechseln Sie zum Training-Tab von text-generation-webui.
Wählen Sie den Reddit Crush-Datensatz aus.
Wechseln Sie zu Rohdatendatei und wählen Sie den Reddit Crush-Datensatz aus.
Starten Sie das Training.
Verwenden Sie die Standardparameter für das Training. Wenn Sie die Kontextlänge erhöhen möchten, können Sie den Cutoff-Parameter erhöhen.
Klicken Sie auf Start LoRA Training, um das Training zu starten.
Nachdem das Training gestartet ist, können Sie den Fortschritt des Trainings in text-generation-webui sehen.
Warten Sie, bis das Modelltraining abgeschlossen ist. Normalerweise dauert dies 1-8 Stunden.
Das Ergebnis des Trainingprozesses wird im Ordner lora gespeichert. Sie können das Training auch unterbrechen und das vorhandene Checkpoint-Modell im lora-Verzeichnis verwenden.
Verwenden Sie das Modell
Erstellen Sie manuell einen Ordner namens reddit_crush im lora-Verzeichnis.
Kopieren Sie das neueste Checkpoint-Modell aus dem Ordner in das lora-Verzeichnis.
Verwenden Sie das Feineinstellungsmodell
Wechseln Sie zum Modell-Tab und wählen Sie zuerst Modell aus.
Wählen Sie LoRA aus. Wenn die Wahl von Lora nicht angezeigt wird, klicken Sie bitte auf die Aktualisierungsschaltfläche auf der rechten Seite oder prüfen Sie, ob das LoRA-Modell im LoRA-Verzeichnis von text-generation-webui platziert wurde.
Wenden Sie LoRA an, klicken Sie auf Apply the selected LoRAs
Nach erfolgreicher Anwendung können Sie die Meldung sehen
Verwenden Sie das Modell
Wechseln Sie zum Textgenerierungstab, geben Sie den Anfang der Geschichte aus und klicken Sie auf Generate, um die Fortsetzung der Geschichte automatisch auf der rechten Seite zu generieren.
