Расширения/Плагины
text-generation-webui поддерживает различные плагины.
Включение плагинов
Во вкладке режима интерфейса вы можете включить или отключить плагины. После переключения нажмите Применить и перезапустите интерфейс внизу, чтобы перезапустить.
Встроенные плагины
| Название | Эффект | Объяснение | Сцена |
|---|---|---|---|
| api | Поддержка API | Создает API с двумя конечными точками: одну для потоковой передачи на /api/v1/stream порт 5005, и другую для блокировки на /api/v1/generate порт 5000. | api |
| google_translate | Перевод ввода и вывода | Перевод | |
| character_bias | Режим чата | В режиме ролевой игры чата, настройте состояние персонажа, такое как настроение персонажа. | Ролевая игра |
| gallery | Галерея персонажей ролевой игры | Создает галерею, содержащую персонажей чата и их изображения. | Ролевая игра, NSFW |
| silero_tts | Преобразование текста в речь | Использует Silero для преобразования ответа в речь. | TTS |
| elevenlabs_tts | Преобразование текста в речь | Использует API ElevenLabs для преобразования ответа в речь, требуется ключ API ElevenLabs. | TTS |
| whisper_stt | Поддержка голосового ввода | Использует whisper для поддержки голосового ввода и затем преобразует голос в текст. | STT |
| send_pictures | Поддержка ввода изображений | Поддерживает ввод изображений в режиме чата с помощью BLIP. | Изображение, мультимодальность |
| multimodal | Поддержка ввода текста+изображения | Поддерживает ввод текста+изображения в режиме чата, требуется модель, поддерживающая мультимодальность. | Изображение, мультимодальность |
| openai | Поддержка openai API | Поддерживает API в стиле openai. | api |
| superbooga | Поддержка ввода с очень длинным контекстом | Использует ChromaDB для создания произвольно больших фиктивных расширений контекста, рассматривая их как файлы с текстом ввода, URL-адреса или вставленный текст. Основан на superbig. | Мультимодальность, длинный контекст |
Другие плагины
Если вам нужно установить другие сторонние плагины в сообществе, загрузите плагин и скопируйте его в каталог расширений в каталоге установки text-generation-webui. Некоторые плагины могут также требовать настройки среды. Обратитесь к соответствующей документации плагина для установки.
| Название | Эффект | Объяснение | Сцена |
|---|---|---|---|
| EdgeGPT | Использует чат Bing | Чат Bing поддерживает доступ в Интернет | Bing, чат |
| long_term_memory | Создает долгосрочную память для робота | Хранит запись разговора и векторизует ее, чтобы разговорный робот мог запомнить предыдущий разговор. | Память |
| complex_memory | Создает контекстную память для робота | Предоставляет дополнительную фоновую информацию для робота, чтобы дополнить контекст разговора. | Контекст |
| discord_bot | Отправляет ответы в Discord | Интегрируется с Discord, позволяя отправлять сгенерированный текст в Discord. | Discord |
| oobabot | Реализует чат-бота на Discord | Интегрируется с Discord, позволяя чат-боту использовать возможности text-generation-webui для разговора. | Discord |
| multi_translate | Улучшает функциональность Google Translate | Улучшенная версия расширения google_translate, обеспечивающая больше вариантов перевода (больше движков, сохранение опций в файл, мгновенное включение/выключение перевода). | Перевод |
| api_advanced | Улучшает функциональность расширения api | Предоставляет интерфейсы, аналогичные Kobold. Обеспечивает расширенную функциональность перевода, возвращая переведенный контент в ответ. | api |
| barktts | Преобразование текста в речь | Простая реализация текста в речь Bark от Suno-AI с неявной мультязычной и простой поддержкой звука. | TTS |
| webui_langchain_agent | Интеграция Langchain, поддержка поиска в Википедии | Создает агента Langchain, который обеспечивает возможность поиска в Википедии. | Langchain |