Compare commits
| Author | SHA1 | Date | |
|---|---|---|---|
|
|
51a43d1ff0 | ||
|
|
04a798b229 | ||
|
|
0799090a1a | ||
|
|
8c51ea15b2 | ||
|
|
3adb955a14 | ||
|
|
b9f31d5066 | ||
|
|
c5dff7b5d4 | ||
|
|
67e57ffd58 | ||
|
|
08f6f8c405 | ||
|
|
0d4cbf7da6 | ||
|
|
9cef0d8346 |
@@ -1,6 +1,4 @@
|
||||
.git
|
||||
.github
|
||||
.vscode
|
||||
node_modules
|
||||
npm-debug.log
|
||||
readme*
|
||||
@@ -10,5 +8,3 @@ Start.bat
|
||||
cloudflared.exe
|
||||
access.log
|
||||
/data
|
||||
/cache
|
||||
.DS_Store
|
||||
|
||||
+1
-1
@@ -5,7 +5,7 @@ end_of_line = lf
|
||||
insert_final_newline = true
|
||||
trim_trailing_whitespace = true
|
||||
|
||||
[*.{js, conf, json, css, less, html}]
|
||||
[*.{js, conf, json}]
|
||||
charset = utf-8
|
||||
indent_style = space
|
||||
indent_size = 4
|
||||
|
||||
@@ -17,15 +17,6 @@ module.exports = {
|
||||
node: true,
|
||||
},
|
||||
},
|
||||
{
|
||||
files: ['src/**/*.mjs'],
|
||||
parserOptions: {
|
||||
sourceType: 'module',
|
||||
},
|
||||
env: {
|
||||
node: true,
|
||||
},
|
||||
},
|
||||
{
|
||||
// Browser-side files
|
||||
files: ['public/**/*.js'],
|
||||
@@ -53,9 +44,6 @@ module.exports = {
|
||||
toastr: 'readonly',
|
||||
Readability: 'readonly',
|
||||
isProbablyReaderable: 'readonly',
|
||||
ePub: 'readonly',
|
||||
diff_match_patch: 'readonly',
|
||||
SillyTavern: 'readonly',
|
||||
},
|
||||
},
|
||||
],
|
||||
|
||||
@@ -1,5 +1,5 @@
|
||||
name: Bug Report 🐛
|
||||
description: Report something that's not working the intended way. Support requests for external programs (reverse proxies, 3rd party servers, other peoples' forks) will be refused! Please use English only.
|
||||
description: Report something that's not working the intended way. Support requests for external programs (reverse proxies, 3rd party servers, other peoples' forks) will be refused!
|
||||
title: '[BUG] <title>'
|
||||
labels: ['🐛 Bug']
|
||||
body:
|
||||
|
||||
@@ -1,5 +1,5 @@
|
||||
name: Feature Request ✨
|
||||
description: Suggest an idea for future development of this project. Please use English only.
|
||||
description: Suggest an idea for future development of this project
|
||||
title: '[FEATURE_REQUEST] <title>'
|
||||
labels: ['🦄 Feature Request']
|
||||
|
||||
|
||||
@@ -1,5 +0,0 @@
|
||||
<!-- Put X in the box below to confirm -->
|
||||
|
||||
## Checklist:
|
||||
|
||||
- [ ] I have read the [Contributing guidelines](https://github.com/SillyTavern/SillyTavern/blob/release/CONTRIBUTING.md).
|
||||
+6
-22
@@ -1,20 +1,6 @@
|
||||
> [!IMPORTANT]
|
||||
> ここに掲載されている情報は、古かったり不完全であったりする可能性があります。最新の情報は英語版をご利用ください。
|
||||
|
||||
![][cover]
|
||||
|
||||
<div align="center">
|
||||
|
||||
[English](readme.md) | [中文](readme-zh_cn.md) | 日本語 | [Русский](readme-ru_ru.md)
|
||||
|
||||
[](https://github.com/SillyTavern/SillyTavern/stargazers)
|
||||
[](https://github.com/SillyTavern/SillyTavern/network)
|
||||
[](https://github.com/SillyTavern/SillyTavern/issues)
|
||||
[](https://github.com/SillyTavern/SillyTavern/pulls)
|
||||
|
||||
</div>
|
||||
|
||||
---
|
||||

|
||||
|
||||
モバイルデバイスにも適したレイアウト・マルチAPI(KoboldAI/CPP、Horde、NovelAI、Ooba、OpenAI、OpenRouter、Claude、Scale)、VN ライクな Waifu モード、Stable Diffusion、TTS、WorldInfo(伝承本)、カスタマイズ可能なUI、自動翻訳、大量のプロンプトオプション+サードパーティの拡張機能をインストールする機能
|
||||
|
||||
@@ -85,13 +71,14 @@ Tavern は単なるフロントエンドのUIであり、必要なハードウ
|
||||
* ワールド情報サポート: 豊富な伝承を作成したり、キャラクターカードにトークンを保存したりできます
|
||||
* [OpenRouter](https://openrouter.ai) 各種 API(Claude、GPT-4/3.5 など)の接続
|
||||
* [Oobabooga's TextGen WebUI](https://github.com/oobabooga/text-generation-webui) API 接続
|
||||
* [AI Horde](https://aihorde.net/) 接続
|
||||
* [AI Horde](https://horde.koboldai.net/) 接続
|
||||
* プロンプト生成フォーマットの調整
|
||||
|
||||
## 拡張機能
|
||||
|
||||
SillyTavern は拡張できるようになっており。
|
||||
SillyTavern は拡張できるようになっており、[SillyTavern Extras API](https://github.com/SillyTavern/SillyTavern-extras) でいくつかの追加AIモジュールをホストしています
|
||||
|
||||
* 作者ノート/キャラクターバイアス
|
||||
* キャラクターの感情表現(スプライト)
|
||||
* チャット履歴の自動サマリー
|
||||
* チャットに画像を送り、AI が内容を解釈する
|
||||
@@ -295,8 +282,8 @@ ST サーバを再起動すると、ユーザ名とパスワードさえ知っ
|
||||
|
||||
## スクリーンショット
|
||||
|
||||
<img width="500" alt="image" src="https://github.com/user-attachments/assets/9b5f32f0-c3b3-4102-b3f5-0e9213c0f50f">
|
||||
<img width="500" alt="image" src="https://github.com/user-attachments/assets/913fdbaa-7d33-42f1-ae2c-89dca41c53d1">
|
||||
<img width="400" alt="image" src="https://user-images.githubusercontent.com/18619528/228649245-8061c60f-63dc-488e-9325-f151b7a3ec2d.png">
|
||||
<img width="400" alt="image" src="https://user-images.githubusercontent.com/18619528/228649856-fbdeef05-d727-4d5a-be80-266cbbc6b811.png">
|
||||
|
||||
## ライセンスとクレジット
|
||||
|
||||
@@ -325,6 +312,3 @@ ST サーバを再起動すると、ユーザ名とパスワードさえ知っ
|
||||
* @doloroushyeonse による韓国語翻訳
|
||||
* k_euler_a による Horde のサポート <https://github.com/Teashrock>
|
||||
* [@XXpE3](https://github.com/XXpE3) による中国語翻訳、中国語 ISSUES の連絡先は @XXpE3
|
||||
|
||||
<!-- LINK GROUP -->
|
||||
[cover]: https://github.com/user-attachments/assets/01a6ae9a-16aa-45f2-8bff-32b5dc587e44
|
||||
|
||||
+359
-372
@@ -1,372 +1,359 @@
|
||||
> [!IMPORTANT]
|
||||
> Приведенная здесь информация может быть устаревшей или неполной и предоставляется только для вашего удобства. Пожалуйста, используйте английскую версию для получения наиболее актуальной информации.
|
||||
|
||||
<a name="readme-top"></a>
|
||||
|
||||
![][cover]
|
||||
|
||||
<div align="center">
|
||||
|
||||
[English](readme.md) | [中文](readme-zh_cn.md) | [日本語](readme-ja_jp.md) | Русский
|
||||
|
||||
[](https://github.com/SillyTavern/SillyTavern/stargazers)
|
||||
[](https://github.com/SillyTavern/SillyTavern/network)
|
||||
[](https://github.com/SillyTavern/SillyTavern/issues)
|
||||
[](https://github.com/SillyTavern/SillyTavern/pulls)
|
||||
|
||||
</div>
|
||||
|
||||
---
|
||||
|
||||
Мобайл-френдли интерфейс, поддержка множества API (KoboldAI/CPP, Horde, NovelAI, Ooba, OpenAI, OpenRouter, Claude, Scale), ВН-образный режим Вайфу, Stable Diffusion, TTS, поддержка миров (лорбуков), кастомизируемый UI, автоперевод, тончайшая настройка промптов + возможность устанавливать расширения.
|
||||
|
||||
Основано на форке [TavernAI](https://github.com/TavernAI/TavernAI) версии 1.2.8
|
||||
|
||||
## Важные новости!
|
||||
|
||||
1. Чтобы помочь вам быстрее разобраться в SillyTavern, мы создали [сайт с документацией](https://docs.sillytavern.app/). Ответы на большинство вопросов можно найти там.
|
||||
|
||||
2. Почему пропали расширения после апдейта? Начиная с версии 1.10.6, большинство встроенных расширений были конвертированы в формат загружаемых аддонов. Их можно установить обратно через меню "Download Extensions and Assets" на панели расширений (значок с тремя кубиками сверху).
|
||||
|
||||
3. Не поддерживается следующая платформа: android arm LEtime-web. 32-битный Android требует внешнюю зависимость, которую нельзя установить посредством npm. Для её установки потребуется следующая команда: `pkg install esbuild`. После этого продолжайте установку по общей инструкции.
|
||||
|
||||
### Разрабатывается Cohee, RossAscends и всем сообществом SillyTavern
|
||||
|
||||
### Что такое SillyTavern и TavernAI?
|
||||
|
||||
SillyTavern — это интерфейс, который устанавливается на ПК (и на Android), который даёт возможность общаться с генеративным ИИ и чатиться/ролеплеить с вашими собственными персонажами или персонажами других пользователей.
|
||||
|
||||
SillyTavern — это форк версии TavernAI 1.2.8, который разрабатывается более активно и имеет множество новых функций. Сейчас уже можно сказать, что это две отдельные и абсолютно самостоятельные программы.
|
||||
|
||||
## Скриншоты
|
||||
|
||||
<img width="500" alt="image" src="https://github.com/user-attachments/assets/9b5f32f0-c3b3-4102-b3f5-0e9213c0f50f">
|
||||
<img width="500" alt="image" src="https://github.com/user-attachments/assets/913fdbaa-7d33-42f1-ae2c-89dca41c53d1">
|
||||
|
||||
### Ветки
|
||||
|
||||
SillyTavern разрабатывается в двух ветках, чтобы всем категориям пользователей было удобно.
|
||||
|
||||
* release -🌟 **Рекомендовано для большинства пользователей.** Самая стабильная ветка, рекомендуем именно её. Обновляется только в момент крупных релизов. Подходит для большей части пользователей.
|
||||
* staging - ⚠️ **Не рекомендуется для повседневного использования.** В этой ветке весь самый свежий и новый функционал, но будьте аккуратны, поскольку сломаться может в любом месте и в любое время. Только для продвинутых пользователей и энтузиастов.
|
||||
|
||||
Если вы не умеете обращаться с git через командную строку, или не знаете, что такое ветка, то не переживайте! Наилучшим вариантом всегда остаётся ветка release.
|
||||
|
||||
### Что ещё нужно, кроме SillyTavern?
|
||||
|
||||
Сама по себе SillyTavern бесполезна, ведь это просто интерфейс. Вам потребуется доступ к бэкенду с ИИ, который и будет отыгрывать выбранного вами персонажа. Поддерживаются разные виды бэкендов: OpenAPI API (GPT), KoboldAI (локально или на Google Colab), и многое другое. Больше информации в [FAQ](https://docs.sillytavern.app/usage/faq/).
|
||||
|
||||
### Требуется ли для SillyTavern мощный ПК?
|
||||
|
||||
SillyTavern — это просто интерфейс, поэтому запустить его можно на любой картошке. Мощным должен быть бэкенд с ИИ.
|
||||
|
||||
## Есть вопросы или предложения?
|
||||
|
||||
### У нас появился сервер в Discord
|
||||
|
||||
| [![][discord-shield-badge]][discord-link] | [Вступайте в наше Discord-сообщество!](https://discord.gg/sillytavern) Задавайте вопросы, делитесь любимыми персонажами и промптами. |
|
||||
| :---------------------------------------- | :----------------------------------------------------------------------------------------------------------------------------------- |
|
||||
|
||||
Также можно написать разработчикам напрямую:
|
||||
|
||||
* Discord: cohee или rossascends
|
||||
* Reddit: [/u/RossAscends](https://www.reddit.com/user/RossAscends/) или [/u/sillylossy](https://www.reddit.com/user/sillylossy/)
|
||||
* [Запостить issue на GitHub](https://github.com/SillyTavern/SillyTavern/issues)
|
||||
|
||||
## Эта версия включает
|
||||
|
||||
* Глубоко переработанную TavernAI 1.2.8 (переписано и оптимизировано более 50% кода)
|
||||
* Свайпы
|
||||
* Групповые чаты: комнаты для нескольких ботов, где персонажи могут говорить друг с другом и с вами
|
||||
* Чекпоинты и ветки для чатов
|
||||
* Продвинутые настройки для KoboldAI / TextGen со множеством созданных сообществом пресетов
|
||||
* Поддержка миров (функция "Информация о мире" / WorldInfo): создавайте свой богатый лор, или экономьте токены для карточек персонажей
|
||||
* Соединение через [OpenRouter](https://openrouter.ai) для разных API (Claude, GPT-4/3.5 и других)
|
||||
* Соединение с API [Oobabooga's TextGen WebUI](https://github.com/oobabooga/text-generation-webui)
|
||||
* Соединение с [AI Horde](https://aihorde.net/)
|
||||
* Настройку форматирования промптов
|
||||
|
||||
## Расширения
|
||||
|
||||
SillyTavern поддерживает расширения.
|
||||
|
||||
* Эмоции для персонажей (спрайты)
|
||||
* Автоматический саммарайз (краткий пересказ) истории чата
|
||||
* Возможность отправить в чат картинку, которую ИИ сможет рассмотреть и понять
|
||||
* Генерация картинок в Stable Diffusion (5 пресетов для чата, плюс свободный режим)
|
||||
* Text-to-speech для сообщений ИИ (с помощью ElevenLabs, Silero, или родной TTS вашей ОС)
|
||||
|
||||
Полный список расширений и инструкций к ним можно найти в [документации](https://docs.sillytavern.app/).
|
||||
|
||||
## Улучшения от RossAscends для UI/CSS/общего удобства
|
||||
|
||||
* Мобильный интерфейс адаптирован для iOS, добавлена возможность сохранить ярлык на главный экран и открыть приложение в полноэкранном режиме.
|
||||
* Горячие клавиши
|
||||
* Up = Редактировать последнее сообщение в чате
|
||||
* Ctrl+Up = Редактировать ВАШЕ последнее сообщение в чате
|
||||
* Left = свайп влево
|
||||
* Right = свайп вправо (ОБРАТИТЕ ВНИМАНИЕ: когда в окне ввода что-то напечатано, клавиши для свайпа не работают)
|
||||
* Ctrl+Left = посмотреть локальные переменные (в консоли браузера)
|
||||
* Enter (при нахождении внутри окна ввода) = отправить ваше сообщение ИИ
|
||||
* Ctrl+Enter = Повторная генерация последнего ответа ИИ
|
||||
|
||||
* Страница больше не перезагружается при смене имени пользователя или удалении персонажа
|
||||
|
||||
* Отключаемая возможность автоматически соединяться с API при загрузке страницы.
|
||||
* Отключаемая возможность автоматически загружать последнего открытого персонажа при загрузке страницы.
|
||||
* Улучшенный счётчик токенов - работает с несохранёнными персонажами, отображает и перманентные, и временные токены
|
||||
|
||||
* Улучшенный менеджер чатов
|
||||
* Файлы с новыми чатами получают читабельные названия вида "(персонаж) - (когда создано)"
|
||||
* Увеличен размер превью чата с 40 символов до 300.
|
||||
* Несколько вариантов сортировки списка персонажей (по имени, дате создания, размеру чата).
|
||||
|
||||
* Панели настроек слева и справа автоматически скрываются, если щёлкнуть за их пределы.
|
||||
* При нажатии на значок замка навигационная панель будет закреплена на экране, и эта настройка сохранится между сессиями
|
||||
* Сам статус панели (открыта или закрыта) также сохраняется между сессиями
|
||||
|
||||
* Кастомизируемый интерфейс чата:
|
||||
* Настройте звук при получении нового ответа
|
||||
* Переключайтесь между круглыми и прямоугольными аватарками
|
||||
* Увеличенное вширь окно чата для стационарных ПК
|
||||
* Возможность включать полупрозрачные панели, стилизованные под стекло
|
||||
* Настраиваемые цвета для обычного текста, курсива, цитат
|
||||
* Настраиваемый цвет фона и интенсивность размытия
|
||||
|
||||
# ⌛ Установка
|
||||
|
||||
> **Внимание!**
|
||||
> * НЕ УСТАНАВЛИВАЙТЕ В ПАПКИ, КОТОРЫЕ КОНТРОЛИРУЕТ WINDOWS (Program Files, System32 и т.п.).
|
||||
> * НЕ ЗАПУСКАЙТЕ START.BAT С ПРАВАМИ АДМИНИСТРАТОРА
|
||||
> * УСТАНОВКА НА WINDOWS 7 НЕВОЗМОЖНА ИЗ-ЗА ОТСУТСТВИЯ NODEJS 18.16
|
||||
|
||||
## 🪟 Windows
|
||||
|
||||
## Установка через Git
|
||||
1. Установите [NodeJS](https://nodejs.org/en) (рекомендуется последняя LTS-версия)
|
||||
2. Установите [Git for Windows](https://gitforwindows.org/)
|
||||
3. Откройте Проводник (`Win+E`)
|
||||
4. Перейдите в папку, которую не контролирует Windows, или создайте её. (пример: C:\MySpecialFolder\)
|
||||
5. Откройте командную строку. Для этого нажмите на адресную строку (сверху), введите `cmd` и нажмите Enter.
|
||||
6. Когда появится чёрное окошко (командная строка), введите ОДНУ из перечисленных ниже команд:
|
||||
|
||||
- для ветки release: `git clone https://github.com/SillyTavern/SillyTavern -b release`
|
||||
- для ветки staging: `git clone https://github.com/SillyTavern/SillyTavern -b staging`
|
||||
|
||||
7. Когда клонирование закончится, дважды щёлкните по `Start.bat`, чтобы установить зависимости для NodeJS.
|
||||
8. После этого сервер запустится, и SillyTavern откроется в вашем браузере.
|
||||
|
||||
## Установка с помощью SillyTavern Launcher
|
||||
1. Установите [Git for Windows](https://gitforwindows.org/)
|
||||
2. Откройте Проводник (`Win+E`) и создайте или выберите папку, в которую будет установлен лаунчер
|
||||
3. Откройте командную строку. Для этого нажмите на адресную строку (сверху), введите `cmd` и нажмите Enter.
|
||||
4. Когда появится чёрное окошко, введите следующую команду: `git clone https://github.com/SillyTavern/SillyTavern-Launcher.git`
|
||||
5. Дважды щёлкните по `installer.bat` и выберите, что именно хотите установить
|
||||
6. После завершения установки дважды щёлкните по `launcher.bat`
|
||||
|
||||
## Установка с помощью GitHub Desktop
|
||||
(Тут речь про git **только** в рамках GitHub Desktop, если хотите использовать `git` в командной строке, вам также понадобится [Git for Windows](https://gitforwindows.org/))
|
||||
1. Установите [NodeJS](https://nodejs.org/en) (latest LTS version is recommended)
|
||||
2. Установите [GitHub Desktop](https://central.github.com/deployments/desktop/desktop/latest/win32)
|
||||
3. После завершения установки GitHub Desktop, нажмите `Clone a repository from the internet....` (обратите внимание: для этого шага **НЕ требуется** аккаунт на GitHub)
|
||||
4. В меню перейдите на вкладку URL, введите адрес `https://github.com/SillyTavern/SillyTavern`, и нажмите Clone. В поле Local path можно изменить директорию, в которую будет загружена SillyTavern.
|
||||
6. Чтобы запустить SillyTavern, откройте Проводник и перейдите в выбранную на предыдущем шаге папку. По умолчанию репозиторий будет склонирован сюда: `C:\Users\[Имя пользователя]\Documents\GitHub\SillyTavern`
|
||||
7. Дважды щёлкните по файлу `start.bat`. (обратите внимание: окончание `.bat` может быть скрыто настройками вашей ОС. Таким образом, имя файла будет выглядеть как "`Start`". Дважды щёлкните по нему, чтобы запустить SillyTavern)
|
||||
8. После того, как вы дважды щёлкнули по файлу, должно открыться чёрное окошко, и SillyTavern начнёт устанавливать свои зависимости.
|
||||
9. Если установка прошла успешно, то в командной строке будет вот такое, а в браузере откроется вкладка с SillyTavern:
|
||||
10. Подключайтесь к любому из [поддерживаемых API](https://docs.sillytavern.app/usage/api-connections/) и начинайте переписку!
|
||||
|
||||
## 🐧 Linux и 🍎 MacOS
|
||||
|
||||
В MacOS и Linux всё это делается через Терминал.
|
||||
|
||||
1. Установите git и nodeJS (как именно - зависит от вашей ОС)
|
||||
2. Клонируйте репозиторий
|
||||
|
||||
- для ветки release: `git clone https://github.com/SillyTavern/SillyTavern -b release`
|
||||
- для ветки staging: `git clone https://github.com/SillyTavern/SillyTavern -b staging`
|
||||
|
||||
3. Перейдите в папку установки с помощью `cd SillyTavern`.
|
||||
4. Запустите скрипт `start.sh` с помощью одной из команд:
|
||||
|
||||
- `./start.sh`
|
||||
- `bash start.sh`
|
||||
|
||||
## Установка с помощью SillyTavern Launcher
|
||||
|
||||
### Для пользователей Linux
|
||||
1. Откройте любимый терминал и установите git
|
||||
2. Загрузите Sillytavern Launcher с помощью команды: `git clone https://github.com/SillyTavern/SillyTavern-Launcher.git`
|
||||
3. Перейдите в SillyTavern-Launcher: `cd SillyTavern-Launcher`
|
||||
4. Запустите лаунчер установки: `chmod +x install.sh && ./install.sh`, затем выберите, что конкретно хотите установить
|
||||
5. После завершения установки, запустите лаунчер следующей командой: `chmod +x launcher.sh && ./launcher.sh`
|
||||
|
||||
### Для пользователей Mac
|
||||
1. Откройте терминал и установите brew: `/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"`
|
||||
2. Затем установите git: `brew install git`
|
||||
3. Загрузите Sillytavern Launcher: `git clone https://github.com/SillyTavern/SillyTavern-Launcher.git`
|
||||
4. Перейдите в SillyTavern-Launcher: `cd SillyTavern-Launcher`
|
||||
5. Запустите лаунчер установки: `chmod +x install.sh && ./install.sh` and choose what you wanna install
|
||||
6. После завершения установки, запустите лаунчер следующей командой: `chmod +x launcher.sh && ./launcher.sh`
|
||||
|
||||
## 📱 Мобильные устройства - Установка при помощи termux
|
||||
|
||||
> **ОБРАТИТЕ ВНИМАНИЕ!**
|
||||
>
|
||||
> **На Android-телефонах SillyTavern можно запускать нативно посредством Termux. Обратитесь к гайду, написанному ArroganceComplex#2659:**
|
||||
>
|
||||
> * <https://rentry.org/STAI-Termux>
|
||||
|
||||
|
||||
## Управление ключами от API
|
||||
|
||||
SillyTavern сохраняет ключи от ваших API в файле `secrets.json` в папке на сервере.
|
||||
|
||||
По умолчанию, ключи не будут отображаться на фронте после их ввода и перезагрузки страницы.
|
||||
|
||||
Чтобы включить возможность отображения ключей путём нажатия кнопки в блоке API:
|
||||
|
||||
1. Зайдите в файл `config.yaml` и установите `allowKeysExposure` в положение `true`.
|
||||
2. Перезапустите сервер SillyTavern.
|
||||
|
||||
## Удалённое подключение
|
||||
|
||||
В основном этим пользуются тогда, когда хотят использовать SillyTavern с телефона, запустив сервер SillyTavern на стационарном ПК в той же Wi-Fi-сети.
|
||||
|
||||
Однако это позволит подключаться откуда угодно, а не только вам.
|
||||
|
||||
**ВАЖНО: в SillyTavern не предусмотрена возможность использования программы несколькими людьми. Поэтому любой, кто подключится к вашему серверу, получит доступ ко всем вашим персонажам и чатам, а также сможет менять настройки через UI.**
|
||||
|
||||
### 1. Заведение "белого списка" IP-адресов
|
||||
|
||||
* Создайте в корневой папке SillyTavern файл с названием `whitelist.txt`.
|
||||
* Откройте файл в текстовом редакторе и внесите список IP-адресов, с которых хотите разрешить подключение.
|
||||
|
||||
*Принимаются как обычные IP-адреса, так и целые диапазоны, размеченные с помощью астериска. Примеры:*
|
||||
|
||||
```txt
|
||||
192.168.0.1
|
||||
192.168.0.20
|
||||
```
|
||||
|
||||
или
|
||||
|
||||
```txt
|
||||
192.168.0.*
|
||||
```
|
||||
|
||||
(диапазон из примера сверху позволит подключаться всем устройствам в локальной сети)
|
||||
|
||||
Также принимаются маски CIDR (вида 10.0.0.0/24).
|
||||
|
||||
* Сохраните файл `whitelist.txt`.
|
||||
* Перезапустите сервер ST.
|
||||
|
||||
После этого устройства из белого списка смогут подключаться к вашему серверу.
|
||||
|
||||
*Обратите внимание: в файле `config.yaml` также имеется массив `whitelist`, который работает по тому же принципу. Однако если существует файл `whitelist.txt`, то этот массив игнорируется.*
|
||||
|
||||
### 2. Получение IP хост-машины с ST
|
||||
|
||||
После настройки белого списка адресов, следующим шагом будет получение IP-адреса хост-машины, на которой запущена SillyTavern.
|
||||
|
||||
Если хост-машина находится в той же Wi-Fi-сети, то можно воспользоваться её внутренним Wi-Fi-IP-адресом:
|
||||
|
||||
* На Windows: нажмите Пуск > введите `cmd.exe` в поиске > в консоли введите команду `ipconfig` и нажмите Enter > найдите пункт `IPv4-адрес`.
|
||||
|
||||
Если вы (или кто-то другой) хотите подключаться к хост-машине из другой сети, то вам понадобится ваш публичный IP-адрес.
|
||||
|
||||
* Откройте [эту страницу](https://whatismyipaddress.com/) с вашей хост-машины и найдите пункт `IPv4`. На этот адрес и будет подключаться удалённое устройство.
|
||||
|
||||
### 3. Соединить удалённое устройство с хост-машиной ST
|
||||
|
||||
Какой бы IP-адрес вы ни выбрали, вам нужно будет вводить его в адресной строке браузера вашего удалённого устройства.
|
||||
|
||||
Обычный адрес хост-машины, находящейся в той же Wi-Fi-сети, выглядит примерно так:
|
||||
|
||||
`http://192.168.0.5:8000`
|
||||
|
||||
НЕ используйте https://
|
||||
Только http://
|
||||
|
||||
### Открытие доступа до ST для всех IP-адресов
|
||||
|
||||
Мы не рекомендуем так делать, но вы можете открыть файл `config.yaml` и изменить `whitelistMode` на `false`.
|
||||
|
||||
Обязательно нужно удалить (или переименовать) файл `whitelist.txt`, если такой файл есть в корневой директории SillyTavern.
|
||||
|
||||
Эта практика считается небезопасной, поэтому, если вы решите так сделать, мы попросим вас установить логин и пароль.
|
||||
|
||||
Оба этих параметра настраиваются в `config.yaml` (username и password).
|
||||
|
||||
Останется только перезапустить сервер ST, и после этого к вам сможет подключиться любой пользователь вне зависимости от IP-адреса его устройства. Главное, чтобы он знал логин и пароль.
|
||||
|
||||
### Не получается соединиться?
|
||||
|
||||
* Создайте входящее/исходящее правило в вашем фаерволле для порта, указанного в `config.yaml`. НЕ ПУТАЙТЕ этот процесс с пробросом портов на роутере. Если по ошибке перепутаете, то на ваш сервер сможет забраться посторонний человек и украсть ваши логи, этого следует избегать.
|
||||
* Переключите Сетевой профиль на значение "Частные". Для этого зайдите в Параметры > Сеть и Интернет > Ethernet. КРАЙНЕ важно для Windows 11, без этого не получится подключиться даже с правилом фаервола.
|
||||
|
||||
## Проблемы с производительностью?
|
||||
|
||||
Попробуйте включить опцию "Отключить эффект размытия" в меню "Пользовательские настройки".
|
||||
|
||||
## Нравится ваш проект! Как помочь?
|
||||
|
||||
### ЧТО ДЕЛАТЬ
|
||||
|
||||
1. Присылайте пулл реквесты
|
||||
2. Присылайте идеи и баг-репорты, оформленные по установленным шаблонам
|
||||
3. Прежде чем задавать вопросы, прочтите readme и документацию
|
||||
|
||||
### ЧЕГО НЕ ДЕЛАТЬ
|
||||
|
||||
1. Предлагать донаты
|
||||
2. Присылать баг-репорты безо всякого контекста
|
||||
3. Задавать вопросы, на которые уже отвечали
|
||||
|
||||
## Где найти старые фоны?
|
||||
|
||||
Мы двигаемся в сторону 100% уникальности всего используемого контента, поэтому старые фоны были убраны из репозитория.
|
||||
|
||||
Они отправлены в архив, скачать их можно здесь:
|
||||
|
||||
<https://files.catbox.moe/1xevnc.zip>
|
||||
|
||||
|
||||
|
||||
|
||||
## Авторы и лицензии
|
||||
|
||||
**Мы надеемся, что эта программа принесёт людям пользу,
|
||||
но мы не даём НИКАКИХ ГАРАНТИЙ; мы ни в коем случае не гарантируем того,
|
||||
что программа СООТВЕТСТВУЕТ КАКИМ-ЛИБО КРИТЕРИЯМ или ПРИГОДНА ДЛЯ КАКОЙ-ЛИБО ЦЕЛИ.
|
||||
Подробнее можно узнать в GNU Affero General Public License.**
|
||||
|
||||
* Базовая TAI от Humi: Лицензия неизвестна
|
||||
* Модификации от Cohee и производная кодовая база: AGPL v3
|
||||
* Дополнения RossAscends: AGPL v3
|
||||
* Кусочки TavernAITurbo мода от CncAnon: Лицензия неизвестна
|
||||
* Различные коммиты и предложения от kingbri (<https://github.com/bdashore3>)
|
||||
* Расширения и внедрение разного рода удобств - city_unit (<https://github.com/city-unit>)
|
||||
* Различные коммиты и баг-репорты от StefanDanielSchwarz (<https://github.com/StefanDanielSchwarz>)
|
||||
* Режим Вайфу вдохновлён работой PepperTaco (<https://github.com/peppertaco/Tavern/>)
|
||||
* Благодарность Pygmalion University за прекрасную работу по тестированию и за все предлагаемые крутые фичи!
|
||||
* Благодарность oobabooga за компиляцию пресетов для TextGen
|
||||
* Пресеты для KoboldAI из KAI Lite: <https://lite.koboldai.net/>
|
||||
* Шрифт Noto Sans от Google (OFL license)
|
||||
* Тема Font Awesome <https://fontawesome.com> (Иконки: CC BY 4.0, Шрифты: SIL OFL 1.1, Код: MIT License)
|
||||
* Клиентская библиотека для AI Horde от ZeldaFan0225: <https://github.com/ZeldaFan0225/ai_horde>
|
||||
* Пусковой скрипт для Linux от AlpinDale
|
||||
* Благодарность paniphons за оформление документа с FAQ
|
||||
* Фон в честь 10 тысяч пользователей в Discord от @kallmeflocc
|
||||
* Стандартный контент (персонажи и лорбуки) предоставлен пользователями @OtisAlejandro, @RossAscends и @kallmeflocc
|
||||
* Корейский перевод от @doloroushyeonse
|
||||
* Поддержка k_euler_a для Horde от <https://github.com/Teashrock>
|
||||
* Китайский перевод от [@XXpE3](https://github.com/XXpE3), 中文 ISSUES 可以联系 @XXpE3
|
||||
|
||||
<!-- LINK GROUP -->
|
||||
[back-to-top]: https://img.shields.io/badge/-BACK_TO_TOP-151515?style=flat-square
|
||||
[cover]: https://github.com/user-attachments/assets/01a6ae9a-16aa-45f2-8bff-32b5dc587e44
|
||||
[discord-link]: https://discord.gg/sillytavern
|
||||
[discord-shield]: https://img.shields.io/discord/1100685673633153084?color=5865F2&label=discord&labelColor=black&logo=discord&logoColor=white&style=flat-square
|
||||
[discord-shield-badge]: https://img.shields.io/discord/1100685673633153084?color=5865F2&label=discord&labelColor=black&logo=discord&logoColor=white&style=for-the-badge
|
||||
<a name="readme-top"></a>
|
||||
|
||||
[English](readme.md) | [中文](readme-zh_cn.md) | [日本語](readme-ja_jp.md) | Русский
|
||||
|
||||
![][cover]
|
||||
|
||||
Мобайл-френдли интерфейс, поддержка множества API (KoboldAI/CPP, Horde, NovelAI, Ooba, OpenAI, OpenRouter, Claude, Scale), ВН-образный режим Вайфу, Stable Diffusion, TTS, поддержка миров (лорбуков), кастомизируемый UI, автоперевод, тончайшая настройка промптов + возможность устанавливать расширения.
|
||||
|
||||
Основано на форке [TavernAI](https://github.com/TavernAI/TavernAI) версии 1.2.8
|
||||
|
||||
## Важные новости!
|
||||
|
||||
1. Чтобы помочь вам быстрее разобраться в SillyTavern, мы создали [сайт с документацией](https://docs.sillytavern.app/). Ответы на большинство вопросов можно найти там.
|
||||
|
||||
2. Почему пропали расширения после апдейта? Начиная с версии 1.10.6, большинство встроенных расширений были конвертированы в формат загружаемых аддонов. Их можно установить обратно через меню "Download Extensions and Assets" на панели расширений (значок с тремя кубиками сверху).
|
||||
|
||||
3. Не поддерживается следующая платформа: android arm LEtime-web. 32-битный Android требует внешнюю зависимость, которую нельзя установить посредством npm. Для её установки потребуется следующая команда: `pkg install esbuild`. После этого продолжайте установку по общей инструкции.
|
||||
|
||||
### Разрабатывается Cohee, RossAscends и всем сообществом SillyTavern
|
||||
|
||||
### Что такое SillyTavern и TavernAI?
|
||||
|
||||
SillyTavern — это интерфейс, который устанавливается на ПК (и на Android), который даёт возможность общаться с генеративным ИИ и чатиться/ролеплеить с вашими собственными персонажами или персонажами других пользователей.
|
||||
|
||||
SillyTavern — это форк версии TavernAI 1.2.8, который разрабатывается более активно и имеет множество новых функций. Сейчас уже можно сказать, что это две отдельные и абсолютно самостоятельные программы.
|
||||
|
||||
## Скриншоты
|
||||
|
||||
<img width="400" alt="image" src="https://github.com/SillyTavern/SillyTavern/assets/61471128/e902c7a2-45a6-4415-97aa-c59c597669c1">
|
||||
<img width="400" alt="image" src="https://github.com/SillyTavern/SillyTavern/assets/61471128/f8a79c47-4fe9-4564-9e4a-bf247ed1c961">
|
||||
|
||||
### Ветки
|
||||
|
||||
SillyTavern разрабатывается в двух ветках, чтобы всем категориям пользователей было удобно.
|
||||
|
||||
* release -🌟 **Рекомендовано для большинства пользователей.** Самая стабильная ветка, рекомендуем именно её. Обновляется только в момент крупных релизов. Подходит для большей части пользователей.
|
||||
* staging - ⚠️ **Не рекомендуется для повседневного использования.** В этой ветке весь самый свежий и новый функционал, но будьте аккуратны, поскольку сломаться может в любом месте и в любое время. Только для продвинутых пользователей и энтузиастов.
|
||||
|
||||
Если вы не умеете обращаться с git через командную строку, или не знаете, что такое ветка, то не переживайте! Наилучшим вариантом всегда остаётся ветка release.
|
||||
|
||||
### Что ещё нужно, кроме SillyTavern?
|
||||
|
||||
Сама по себе SillyTavern бесполезна, ведь это просто интерфейс. Вам потребуется доступ к бэкенду с ИИ, который и будет отыгрывать выбранного вами персонажа. Поддерживаются разные виды бэкендов: OpenAPI API (GPT), KoboldAI (локально или на Google Colab), и многое другое. Больше информации в [FAQ](https://docs.sillytavern.app/usage/faq/).
|
||||
|
||||
### Требуется ли для SillyTavern мощный ПК?
|
||||
|
||||
SillyTavern — это просто интерфейс, поэтому запустить его можно на любой картошке. Мощным должен быть бэкенд с ИИ.
|
||||
|
||||
## Есть вопросы или предложения?
|
||||
|
||||
### У нас появился сервер в Discord
|
||||
|
||||
| [![][discord-shield-badge]][discord-link] | [Вступайте в наше Discord-сообщество!](https://discord.gg/sillytavern) Задавайте вопросы, делитесь любимыми персонажами и промптами. |
|
||||
| :---------------------------------------- | :----------------------------------------------------------------------------------------------------------------- |
|
||||
|
||||
Также можно написать разработчикам напрямую:
|
||||
|
||||
* Discord: cohee или rossascends
|
||||
* Reddit: [/u/RossAscends](https://www.reddit.com/user/RossAscends/) или [/u/sillylossy](https://www.reddit.com/user/sillylossy/)
|
||||
* [Запостить issue на GitHub](https://github.com/SillyTavern/SillyTavern/issues)
|
||||
|
||||
## Эта версия включает
|
||||
|
||||
* Глубоко переработанную TavernAI 1.2.8 (переписано и оптимизировано более 50% кода)
|
||||
* Свайпы
|
||||
* Групповые чаты: комнаты для нескольких ботов, где персонажи могут говорить друг с другом и с вами
|
||||
* Чекпоинты и ветки для чатов
|
||||
* Продвинутые настройки для KoboldAI / TextGen со множеством созданных сообществом пресетов
|
||||
* Поддержка миров (функция "Информация о мире" / WorldInfo): создавайте свой богатый лор, или экономьте токены для карточек персонажей
|
||||
* Соединение через [OpenRouter](https://openrouter.ai) для разных API (Claude, GPT-4/3.5 и других)
|
||||
* Соединение с API [Oobabooga's TextGen WebUI](https://github.com/oobabooga/text-generation-webui)
|
||||
* Соединение с [AI Horde](https://horde.koboldai.net/)
|
||||
* Настройку форматирования промптов
|
||||
|
||||
## Расширения
|
||||
|
||||
SillyTavern поддерживает расширения, при этом некоторые из ИИ-модулей работают через [SillyTavern Extras API](https://github.com/SillyTavern/SillyTavern-extras)
|
||||
|
||||
* Заметки автора / Смещение характера
|
||||
* Эмоции для персонажей (спрайты)
|
||||
* Автоматический саммарайз (краткий пересказ) истории чата
|
||||
* Возможность отправить в чат картинку, которую ИИ сможет рассмотреть и понять
|
||||
* Генерация картинок в Stable Diffusion (5 пресетов для чата, плюс свободный режим)
|
||||
* Text-to-speech для сообщений ИИ (с помощью ElevenLabs, Silero, или родной TTS вашей ОС)
|
||||
|
||||
Полный список расширений и инструкций к ним можно найти в [документации](https://docs.sillytavern.app/).
|
||||
|
||||
## Улучшения от RossAscends для UI/CSS/общего удобства
|
||||
|
||||
* Мобильный интерфейс адаптирован для iOS, добавлена возможность сохранить ярлык на главный экран и открыть приложение в полноэкранном режиме.
|
||||
* Горячие клавиши
|
||||
* Up = Редактировать последнее сообщение в чате
|
||||
* Ctrl+Up = Редактировать ВАШЕ последнее сообщение в чате
|
||||
* Left = свайп влево
|
||||
* Right = свайп вправо (ОБРАТИТЕ ВНИМАНИЕ: когда в окне ввода что-то напечатано, клавиши для свайпа не работают)
|
||||
* Ctrl+Left = посмотреть локальные переменные (в консоли браузера)
|
||||
* Enter (при нахождении внутри окна ввода) = отправить ваше сообщение ИИ
|
||||
* Ctrl+Enter = Повторная генерация последнего ответа ИИ
|
||||
|
||||
* Страница больше не перезагружается при смене имени пользователя или удалении персонажа
|
||||
|
||||
* Отключаемая возможность автоматически соединяться с API при загрузке страницы.
|
||||
* Отключаемая возможность автоматически загружать последнего открытого персонажа при загрузке страницы.
|
||||
* Улучшенный счётчик токенов - работает с несохранёнными персонажами, отображает и перманентные, и временные токены
|
||||
|
||||
* Улучшенный менеджер чатов
|
||||
* Файлы с новыми чатами получают читабельные названия вида "(персонаж) - (когда создано)"
|
||||
* Увеличен размер превью чата с 40 символов до 300.
|
||||
* Несколько вариантов сортировки списка персонажей (по имени, дате создания, размеру чата).
|
||||
|
||||
* Панели настроек слева и справа автоматически скрываются, если щёлкнуть за их пределы.
|
||||
* При нажатии на значок замка навигационная панель будет закреплена на экране, и эта настройка сохранится между сессиями
|
||||
* Сам статус панели (открыта или закрыта) также сохраняется между сессиями
|
||||
|
||||
* Кастомизируемый интерфейс чата:
|
||||
* Настройте звук при получении нового ответа
|
||||
* Переключайтесь между круглыми и прямоугольными аватарками
|
||||
* Увеличенное вширь окно чата для стационарных ПК
|
||||
* Возможность включать полупрозрачные панели, стилизованные под стекло
|
||||
* Настраиваемые цвета для обычного текста, курсива, цитат
|
||||
* Настраиваемый цвет фона и интенсивность размытия
|
||||
|
||||
# ⌛ Установка
|
||||
|
||||
> **Внимание!**
|
||||
> * НЕ УСТАНАВЛИВАЙТЕ В ПАПКИ, КОТОРЫЕ КОНТРОЛИРУЕТ WINDOWS (Program Files, System32 и т.п.).
|
||||
> * НЕ ЗАПУСКАЙТЕ START.BAT С ПРАВАМИ АДМИНИСТРАТОРА
|
||||
> * УСТАНОВКА НА WINDOWS 7 НЕВОЗМОЖНА ИЗ-ЗА ОТСУТСТВИЯ NODEJS 18.16
|
||||
|
||||
## 🪟 Windows
|
||||
|
||||
## Установка через Git
|
||||
1. Установите [NodeJS](https://nodejs.org/en) (рекомендуется последняя LTS-версия)
|
||||
2. Установите [Git for Windows](https://gitforwindows.org/)
|
||||
3. Откройте Проводник (`Win+E`)
|
||||
4. Перейдите в папку, которую не контролирует Windows, или создайте её. (пример: C:\MySpecialFolder\)
|
||||
5. Откройте командную строку. Для этого нажмите на адресную строку (сверху), введите `cmd` и нажмите Enter.
|
||||
6. Когда появится чёрное окошко (командная строка), введите ОДНУ из перечисленных ниже команд:
|
||||
|
||||
- для ветки release: `git clone https://github.com/SillyTavern/SillyTavern -b release`
|
||||
- для ветки staging: `git clone https://github.com/SillyTavern/SillyTavern -b staging`
|
||||
|
||||
7. Когда клонирование закончится, дважды щёлкните по `Start.bat`, чтобы установить зависимости для NodeJS.
|
||||
8. После этого сервер запустится, и SillyTavern откроется в вашем браузере.
|
||||
|
||||
## Установка с помощью SillyTavern Launcher
|
||||
1. Установите [Git for Windows](https://gitforwindows.org/)
|
||||
2. Откройте Проводник (`Win+E`) и создайте или выберите папку, в которую будет установлен лаунчер
|
||||
3. Откройте командную строку. Для этого нажмите на адресную строку (сверху), введите `cmd` и нажмите Enter.
|
||||
4. Когда появится чёрное окошко, введите следующую команду: `git clone https://github.com/SillyTavern/SillyTavern-Launcher.git`
|
||||
5. Дважды щёлкните по `installer.bat` и выберите, что именно хотите установить
|
||||
6. После завершения установки дважды щёлкните по `launcher.bat`
|
||||
|
||||
## Установка с помощью GitHub Desktop
|
||||
(Тут речь про git **только** в рамках GitHub Desktop, если хотите использовать `git` в командной строке, вам также понадобится [Git for Windows](https://gitforwindows.org/))
|
||||
1. Установите [NodeJS](https://nodejs.org/en) (latest LTS version is recommended)
|
||||
2. Установите [GitHub Desktop](https://central.github.com/deployments/desktop/desktop/latest/win32)
|
||||
3. После завершения установки GitHub Desktop, нажмите `Clone a repository from the internet....` (обратите внимание: для этого шага **НЕ требуется** аккаунт на GitHub)
|
||||
4. В меню перейдите на вкладку URL, введите адрес `https://github.com/SillyTavern/SillyTavern`, и нажмите Clone. В поле Local path можно изменить директорию, в которую будет загружена SillyTavern.
|
||||
6. Чтобы запустить SillyTavern, откройте Проводник и перейдите в выбранную на предыдущем шаге папку. По умолчанию репозиторий будет склонирован сюда: `C:\Users\[Имя пользователя]\Documents\GitHub\SillyTavern`
|
||||
7. Дважды щёлкните по файлу `start.bat`. (обратите внимание: окончание `.bat` может быть скрыто настройками вашей ОС. Таким образом, имя файла будет выглядеть как "`Start`". Дважды щёлкните по нему, чтобы запустить SillyTavern)
|
||||
8. После того, как вы дважды щёлкнули по файлу, должно открыться чёрное окошко, и SillyTavern начнёт устанавливать свои зависимости.
|
||||
9. Если установка прошла успешно, то в командной строке будет вот такое, а в браузере откроется вкладка с SillyTavern:
|
||||
10. Подключайтесь к любому из [поддерживаемых API](https://docs.sillytavern.app/usage/api-connections/) и начинайте переписку!
|
||||
|
||||
## 🐧 Linux и 🍎 MacOS
|
||||
|
||||
В MacOS и Linux всё это делается через Терминал.
|
||||
|
||||
1. Установите git и nodeJS (как именно - зависит от вашей ОС)
|
||||
2. Клонируйте репозиторий
|
||||
|
||||
- для ветки release: `git clone https://github.com/SillyTavern/SillyTavern -b release`
|
||||
- для ветки staging: `git clone https://github.com/SillyTavern/SillyTavern -b staging`
|
||||
|
||||
3. Перейдите в папку установки с помощью `cd SillyTavern`.
|
||||
4. Запустите скрипт `start.sh` с помощью одной из команд:
|
||||
|
||||
- `./start.sh`
|
||||
- `bash start.sh`
|
||||
|
||||
## Установка с помощью SillyTavern Launcher
|
||||
|
||||
### Для пользователей Linux
|
||||
1. Откройте любимый терминал и установите git
|
||||
2. Загрузите Sillytavern Launcher с помощью команды: `git clone https://github.com/SillyTavern/SillyTavern-Launcher.git`
|
||||
3. Перейдите в SillyTavern-Launcher: `cd SillyTavern-Launcher`
|
||||
4. Запустите лаунчер установки: `chmod +x install.sh && ./install.sh`, затем выберите, что конкретно хотите установить
|
||||
5. После завершения установки, запустите лаунчер следующей командой: `chmod +x launcher.sh && ./launcher.sh`
|
||||
|
||||
### Для пользователей Mac
|
||||
1. Откройте терминал и установите brew: `/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"`
|
||||
2. Затем установите git: `brew install git`
|
||||
3. Загрузите Sillytavern Launcher: `git clone https://github.com/SillyTavern/SillyTavern-Launcher.git`
|
||||
4. Перейдите в SillyTavern-Launcher: `cd SillyTavern-Launcher`
|
||||
5. Запустите лаунчер установки: `chmod +x install.sh && ./install.sh` and choose what you wanna install
|
||||
6. После завершения установки, запустите лаунчер следующей командой: `chmod +x launcher.sh && ./launcher.sh`
|
||||
|
||||
## 📱 Мобильные устройства - Установка при помощи termux
|
||||
|
||||
> **ОБРАТИТЕ ВНИМАНИЕ!**
|
||||
>
|
||||
> **На Android-телефонах SillyTavern можно запускать нативно посредством Termux. Обратитесь к гайду, написанному ArroganceComplex#2659:**
|
||||
>
|
||||
> * <https://rentry.org/STAI-Termux>
|
||||
|
||||
|
||||
## Управление ключами от API
|
||||
|
||||
SillyTavern сохраняет ключи от ваших API в файле `secrets.json` в папке на сервере.
|
||||
|
||||
По умолчанию, ключи не будут отображаться на фронте после их ввода и перезагрузки страницы.
|
||||
|
||||
Чтобы включить возможность отображения ключей путём нажатия кнопки в блоке API:
|
||||
|
||||
1. Зайдите в файл `config.yaml` и установите `allowKeysExposure` в положение `true`.
|
||||
2. Перезапустите сервер SillyTavern.
|
||||
|
||||
## Удалённое подключение
|
||||
|
||||
В основном этим пользуются тогда, когда хотят использовать SillyTavern с телефона, запустив сервер SillyTavern на стационарном ПК в той же Wi-Fi-сети.
|
||||
|
||||
Однако это позволит подключаться откуда угодно, а не только вам.
|
||||
|
||||
**ВАЖНО: в SillyTavern не предусмотрена возможность использования программы несколькими людьми. Поэтому любой, кто подключится к вашему серверу, получит доступ ко всем вашим персонажам и чатам, а также сможет менять настройки через UI.**
|
||||
|
||||
### 1. Заведение "белого списка" IP-адресов
|
||||
|
||||
* Создайте в корневой папке SillyTavern файл с названием `whitelist.txt`.
|
||||
* Откройте файл в текстовом редакторе и внесите список IP-адресов, с которых хотите разрешить подключение.
|
||||
|
||||
*Принимаются как обычные IP-адреса, так и целые диапазоны, размеченные с помощью астериска. Примеры:*
|
||||
|
||||
```txt
|
||||
192.168.0.1
|
||||
192.168.0.20
|
||||
```
|
||||
|
||||
или
|
||||
|
||||
```txt
|
||||
192.168.0.*
|
||||
```
|
||||
|
||||
(диапазон из примера сверху позволит подключаться всем устройствам в локальной сети)
|
||||
|
||||
Также принимаются маски CIDR (вида 10.0.0.0/24).
|
||||
|
||||
* Сохраните файл `whitelist.txt`.
|
||||
* Перезапустите сервер ST.
|
||||
|
||||
После этого устройства из белого списка смогут подключаться к вашему серверу.
|
||||
|
||||
*Обратите внимание: в файле `config.yaml` также имеется массив `whitelist`, который работает по тому же принципу. Однако если существует файл `whitelist.txt`, то этот массив игнорируется.*
|
||||
|
||||
### 2. Получение IP хост-машины с ST
|
||||
|
||||
После настройки белого списка адресов, следующим шагом будет получение IP-адреса хост-машины, на которой запущена SillyTavern.
|
||||
|
||||
Если хост-машина находится в той же Wi-Fi-сети, то можно воспользоваться её внутренним Wi-Fi-IP-адресом:
|
||||
|
||||
* На Windows: нажмите Пуск > введите `cmd.exe` в поиске > в консоли введите команду `ipconfig` и нажмите Enter > найдите пункт `IPv4-адрес`.
|
||||
|
||||
Если вы (или кто-то другой) хотите подключаться к хост-машине из другой сети, то вам понадобится ваш публичный IP-адрес.
|
||||
|
||||
* Откройте [эту страницу](https://whatismyipaddress.com/) с вашей хост-машины и найдите пункт `IPv4`. На этот адрес и будет подключаться удалённое устройство.
|
||||
|
||||
### 3. Соединить удалённое устройство с хост-машиной ST
|
||||
|
||||
Какой бы IP-адрес вы ни выбрали, вам нужно будет вводить его в адресной строке браузера вашего удалённого устройства.
|
||||
|
||||
Обычный адрес хост-машины, находящейся в той же Wi-Fi-сети, выглядит примерно так:
|
||||
|
||||
`http://192.168.0.5:8000`
|
||||
|
||||
НЕ используйте https://
|
||||
Только http://
|
||||
|
||||
### Открытие доступа до ST для всех IP-адресов
|
||||
|
||||
Мы не рекомендуем так делать, но вы можете открыть файл `config.yaml` и изменить `whitelistMode` на `false`.
|
||||
|
||||
Обязательно нужно удалить (или переименовать) файл `whitelist.txt`, если такой файл есть в корневой директории SillyTavern.
|
||||
|
||||
Эта практика считается небезопасной, поэтому, если вы решите так сделать, мы попросим вас установить логин и пароль.
|
||||
|
||||
Оба этих параметра настраиваются в `config.yaml` (username и password).
|
||||
|
||||
Останется только перезапустить сервер ST, и после этого к вам сможет подключиться любой пользователь вне зависимости от IP-адреса его устройства. Главное, чтобы он знал логин и пароль.
|
||||
|
||||
### Не получается соединиться?
|
||||
|
||||
* Создайте входящее/исходящее правило в вашем фаерволле для порта, указанного в `config.yaml`. НЕ ПУТАЙТЕ этот процесс с пробросом портов на роутере. Если по ошибке перепутаете, то на ваш сервер сможет забраться посторонний человек и украсть ваши логи, этого следует избегать.
|
||||
* Переключите Сетевой профиль на значение "Частные". Для этого зайдите в Параметры > Сеть и Интернет > Ethernet. КРАЙНЕ важно для Windows 11, без этого не получится подключиться даже с правилом фаервола.
|
||||
|
||||
## Проблемы с производительностью?
|
||||
|
||||
Попробуйте включить опцию "Отключить эффект размытия" в меню "Пользовательские настройки".
|
||||
|
||||
## Нравится ваш проект! Как помочь?
|
||||
|
||||
### ЧТО ДЕЛАТЬ
|
||||
|
||||
1. Присылайте пулл реквесты
|
||||
2. Присылайте идеи и баг-репорты, оформленные по установленным шаблонам
|
||||
3. Прежде чем задавать вопросы, прочтите readme и документацию
|
||||
|
||||
### ЧЕГО НЕ ДЕЛАТЬ
|
||||
|
||||
1. Предлагать донаты
|
||||
2. Присылать баг-репорты безо всякого контекста
|
||||
3. Задавать вопросы, на которые уже отвечали
|
||||
|
||||
## Где найти старые фоны?
|
||||
|
||||
Мы двигаемся в сторону 100% уникальности всего используемого контента, поэтому старые фоны были убраны из репозитория.
|
||||
|
||||
Они отправлены в архив, скачать их можно здесь:
|
||||
|
||||
<https://files.catbox.moe/1xevnc.zip>
|
||||
|
||||
|
||||
|
||||
|
||||
## Авторы и лицензии
|
||||
|
||||
**Мы надеемся, что эта программа принесёт людям пользу,
|
||||
но мы не даём НИКАКИХ ГАРАНТИЙ; мы ни в коем случае не гарантируем того,
|
||||
что программа СООТВЕТСТВУЕТ КАКИМ-ЛИБО КРИТЕРИЯМ или ПРИГОДНА ДЛЯ КАКОЙ-ЛИБО ЦЕЛИ.
|
||||
Подробнее можно узнать в GNU Affero General Public License.**
|
||||
|
||||
* Базовая TAI от Humi: Лицензия неизвестна
|
||||
* Модификации от Cohee и производная кодовая база: AGPL v3
|
||||
* Дополнения RossAscends: AGPL v3
|
||||
* Кусочки TavernAITurbo мода от CncAnon: Лицензия неизвестна
|
||||
* Различные коммиты и предложения от kingbri (<https://github.com/bdashore3>)
|
||||
* Расширения и внедрение разного рода удобств - city_unit (<https://github.com/city-unit>)
|
||||
* Различные коммиты и баг-репорты от StefanDanielSchwarz (<https://github.com/StefanDanielSchwarz>)
|
||||
* Режим Вайфу вдохновлён работой PepperTaco (<https://github.com/peppertaco/Tavern/>)
|
||||
* Благодарность Pygmalion University за прекрасную работу по тестированию и за все предлагаемые крутые фичи!
|
||||
* Благодарность oobabooga за компиляцию пресетов для TextGen
|
||||
* Пресеты для KoboldAI из KAI Lite: <https://lite.koboldai.net/>
|
||||
* Шрифт Noto Sans от Google (OFL license)
|
||||
* Тема Font Awesome <https://fontawesome.com> (Иконки: CC BY 4.0, Шрифты: SIL OFL 1.1, Код: MIT License)
|
||||
* Клиентская библиотека для AI Horde от ZeldaFan0225: <https://github.com/ZeldaFan0225/ai_horde>
|
||||
* Пусковой скрипт для Linux от AlpinDale
|
||||
* Благодарность paniphons за оформление документа с FAQ
|
||||
* Фон в честь 10 тысяч пользователей в Discord от @kallmeflocc
|
||||
* Стандартный контент (персонажи и лорбуки) предоставлен пользователями @OtisAlejandro, @RossAscends и @kallmeflocc
|
||||
* Корейский перевод от @doloroushyeonse
|
||||
* Поддержка k_euler_a для Horde от <https://github.com/Teashrock>
|
||||
* Китайский перевод от [@XXpE3](https://github.com/XXpE3), 中文 ISSUES 可以联系 @XXpE3
|
||||
|
||||
<!-- LINK GROUP -->
|
||||
[back-to-top]: https://img.shields.io/badge/-BACK_TO_TOP-151515?style=flat-square
|
||||
[cover]: https://github.com/SillyTavern/SillyTavern/assets/18619528/c2be4c3f-aada-4f64-87a3-ae35a68b61a4
|
||||
[discord-link]: https://discord.gg/sillytavern
|
||||
[discord-shield]: https://img.shields.io/discord/1100685673633153084?color=5865F2&label=discord&labelColor=black&logo=discord&logoColor=white&style=flat-square
|
||||
[discord-shield-badge]: https://img.shields.io/discord/1100685673633153084?color=5865F2&label=discord&labelColor=black&logo=discord&logoColor=white&style=for-the-badge
|
||||
|
||||
+6
-22
@@ -1,20 +1,6 @@
|
||||
> [!IMPORTANT]
|
||||
> 这里的信息可能已经过时或不完整,仅供您参考。请使用英文版本获取最新信息。
|
||||
|
||||
![][cover]
|
||||
|
||||
<div align="center">
|
||||
|
||||
[English](readme.md) | 中文 | [日本語](readme-ja_jp.md) | [Русский](readme-ru_ru.md)
|
||||
|
||||
[](https://github.com/SillyTavern/SillyTavern/stargazers)
|
||||
[](https://github.com/SillyTavern/SillyTavern/network)
|
||||
[](https://github.com/SillyTavern/SillyTavern/issues)
|
||||
[](https://github.com/SillyTavern/SillyTavern/pulls)
|
||||
|
||||
</div>
|
||||
|
||||
---
|
||||

|
||||
|
||||
移动设备界面友好,多种人工智能服务或模型支持(KoboldAI/CPP, Horde, NovelAI, Ooba, OpenAI, OpenRouter, Claude, Scale),类似 Galgame 的 老 婆 模 式,Horde SD,文本系统语音生成,世界信息(Lorebooks),可定制的界面,自动翻译,和比你所需要的更多的 Prompt。附带扩展服务,支持文本绘画生成与语音生成和基于向量数据库 的聊天信息总结。
|
||||
|
||||
@@ -81,14 +67,15 @@ SillyTavern 本身并无用处,因为它只是一个用户聊天界面。你
|
||||
* 支持世界信息(Lorebooks):创建丰富的传说
|
||||
* 支持 Window AI 浏览器扩展(运行 Claude、GPT 4 等模型):<https://windowai.io/>
|
||||
* [Oobabooga's TextGen WebUI](https://github.com/oobabooga/text-generation-webui) API 连接
|
||||
* 连接 [AI Horde](https://aihorde.net/)
|
||||
* 连接 [AI Horde](https://horde.koboldai.net/)
|
||||
* Prompt 生成格式调整
|
||||
* Webp 角色卡支持(PNG 仍是内部格式)
|
||||
|
||||
## 扩展
|
||||
|
||||
SillyTavern 支持扩展服务。
|
||||
SillyTavern 支持扩展服务,一些额外的人工智能模块可通过 [SillyTavern Extras API](https://github.com/SillyTavern/SillyTavern-extras) 提供。
|
||||
|
||||
* 作者注释/角色偏见
|
||||
* 角色情绪识别
|
||||
* 聊天记录自动摘要
|
||||
* 在聊天窗口发送图片,并由人工智能解释图片内容
|
||||
@@ -289,8 +276,8 @@ SillyTavern 会将 API 密钥保存在目录中的 `secrets.json` 文件内。
|
||||
|
||||
## 屏幕截图
|
||||
|
||||
<img width="500" alt="image" src="https://github.com/user-attachments/assets/9b5f32f0-c3b3-4102-b3f5-0e9213c0f50f">
|
||||
<img width="500" alt="image" src="https://github.com/user-attachments/assets/913fdbaa-7d33-42f1-ae2c-89dca41c53d1">
|
||||
<img width="400" alt="image" src="https://user-images.githubusercontent.com/18619528/228649245-8061c60f-63dc-488e-9325-f151b7a3ec2d.png">
|
||||
<img width="400" alt="image" src="https://user-images.githubusercontent.com/18619528/228649856-fbdeef05-d727-4d5a-be80-266cbbc6b811.png">
|
||||
|
||||
## 许可证和贡献
|
||||
|
||||
@@ -317,6 +304,3 @@ SillyTavern 会将 API 密钥保存在目录中的 `secrets.json` 文件内。
|
||||
* Default content (characters and lore books) provided by @OtisAlejandro, @RossAscends and @kallmeflocc
|
||||
* Korean translation by @doloroushyeonse
|
||||
* 中文翻译由 [@XXpE3](https://github.com/XXpE3) 完成,中文 ISSUES 可以联系 @XXpE3
|
||||
|
||||
<!-- LINK GROUP -->
|
||||
[cover]: https://github.com/user-attachments/assets/01a6ae9a-16aa-45f2-8bff-32b5dc587e44
|
||||
|
||||
+234
-257
@@ -1,147 +1,158 @@
|
||||
<a name="readme-top"></a>
|
||||
|
||||
![][cover]
|
||||
|
||||
<div align="center">
|
||||
|
||||
English | [中文](readme-zh_cn.md) | [日本語](readme-ja_jp.md) | [Русский](readme-ru_ru.md)
|
||||
|
||||
[](https://github.com/SillyTavern/SillyTavern/stargazers)
|
||||
[](https://github.com/SillyTavern/SillyTavern/network)
|
||||
[](https://github.com/SillyTavern/SillyTavern/issues)
|
||||
[](https://github.com/SillyTavern/SillyTavern/pulls)
|
||||
![][cover]
|
||||
|
||||
</div>
|
||||
Mobile-friendly layout, Multi-API (KoboldAI/CPP, Horde, NovelAI, Ooba, OpenAI, OpenRouter, Claude, Scale), VN-like Waifu Mode, Stable Diffusion, TTS, WorldInfo (lorebooks), customizable UI, auto-translate, and more prompt options than you'd ever want or need + ability to install third-party extensions.
|
||||
|
||||
---
|
||||
Based on a fork of [TavernAI](https://github.com/TavernAI/TavernAI) 1.2.8
|
||||
|
||||
SillyTavern provides a single unified interface for many LLM APIs (KoboldAI/CPP, Horde, NovelAI, Ooba, Tabby, OpenAI, OpenRouter, Claude, Mistral and more), a mobile-friendly layout, Visual Novel Mode, Automatic1111 & ComfyUI API image generation integration, TTS, WorldInfo (lorebooks), customizable UI, auto-translate, more prompt options than you'd ever want or need, and endless growth potential via third-party extensions.
|
||||
## Important news!
|
||||
|
||||
We have a [Documentation website](https://docs.sillytavern.app/) to answer most of your questions and help you get started.
|
||||
1. We have created a [Documentation website](https://docs.sillytavern.app/) to answer most of your questions and help you get started.
|
||||
|
||||
## What is SillyTavern?
|
||||
2. Missing extensions after the update? Since the 1.10.6 release version, most of the previously built-in extensions have been converted to downloadable add-ons. You can download them via the built-in "Download Extensions and Assets" menu in the extensions panel (stacked blocks icon in the top bar).
|
||||
|
||||
SillyTavern (or ST for short) is a locally installed user interface that allows you to interact with text generation LLMs, image generation engines, and TTS voice models.
|
||||
3. Unsupported platform: android arm LEtime-web. 32-bit Android requires an external dependency that can't be installed with npm. Use the following command to install it: `pkg install esbuild`. Then run the usual installation steps.
|
||||
|
||||
Beginning in February 2023 as a fork of TavernAI 1.2.8, SillyTavern now has over 100 contributors and 2 years of independent development under its belt, and continues to serve as a leading software for savvy AI hobbyists.
|
||||
### Brought to you by Cohee, RossAscends, and the SillyTavern community
|
||||
|
||||
## Our Vision
|
||||
### What is SillyTavern or TavernAI?
|
||||
|
||||
1. We aim to empower users with as much utility and control over their LLM prompts as possible. The steep learning curve is part of the fun!
|
||||
2. We do not provide any online or hosted services, nor programmatically track any user data.
|
||||
3. SillyTavern is a passion project brought to you by a dedicated community of LLM enthusiasts, and will always be free and open sourced.
|
||||
SillyTavern is a user interface you can install on your computer (and Android phones) that allows you to interact with text generation AIs and chat/roleplay with characters you or the community create.
|
||||
|
||||
## Branches
|
||||
SillyTavern is a fork of TavernAI 1.2.8 which is under more active development and has added many major features. At this point, they can be thought of as completely independent programs.
|
||||
|
||||
## Screenshots
|
||||
|
||||
<img width="400" alt="image" src="https://github.com/SillyTavern/SillyTavern/assets/61471128/e902c7a2-45a6-4415-97aa-c59c597669c1">
|
||||
<img width="400" alt="image" src="https://github.com/SillyTavern/SillyTavern/assets/61471128/f8a79c47-4fe9-4564-9e4a-bf247ed1c961">
|
||||
|
||||
### Branches
|
||||
|
||||
SillyTavern is being developed using a two-branch system to ensure a smooth experience for all users.
|
||||
|
||||
* `release` -🌟 **Recommended for most users.** This is the most stable and recommended branch, updated only when major releases are pushed. It's suitable for the majority of users. Typically updated once a month.
|
||||
* `staging` - ⚠️ **Not recommended for casual use.** This branch has the latest features, but be cautious as it may break at any time. Only for power users and enthusiasts. Updates several times daily.
|
||||
* release -🌟 **Recommended for most users.** This is the most stable and recommended branch, updated only when major releases are pushed. It's suitable for the majority of users.
|
||||
* staging - ⚠️ **Not recommended for casual use.** This branch has the latest features, but be cautious as it may break at any time. Only for power users and enthusiasts.
|
||||
|
||||
If you're not familiar with using the git CLI or don't understand what a branch is, don't worry! The release branch is always the preferable option for you.
|
||||
|
||||
## What do I need other than SillyTavern?
|
||||
### What do I need other than SillyTavern?
|
||||
|
||||
Since SillyTavern is only an interface, you will need access to an LLM backend to provide inference. You can use AI Horde for instant out-of-the-box chatting. Aside from that, we support many other local and cloud-based LLM backends: OpenAI-compatible API, KoboldAI, Tabby, and many more. You can read more about our supported APIs in [the FAQ](https://docs.sillytavern.app/usage/api-connections/).
|
||||
On its own SillyTavern is useless, as it's just a user interface. You have to have access to an AI system backend that can act as the roleplay character. There are various supported backends: OpenAPI API (GPT), KoboldAI (either running locally or on Google Colab), and more. You can read more about this in [the FAQ](https://docs.sillytavern.app/usage/faq/).
|
||||
|
||||
### Do I need a powerful PC to run SillyTavern?
|
||||
|
||||
The hardware requirements are minimal: it will run on anything that can run NodeJS 18 or higher. If you intend to do LLM inference on your local machine, we recommend a 3000-series NVIDIA graphics card with at least 6GB of VRAM. Check your backend's documentation for more details.
|
||||
|
||||
### Suggested Backends (not affiliated)
|
||||
|
||||
* [AI Horde](https://aihorde.net/) - use models hosted by volunteers. Requires no further setup
|
||||
* [KoboldCpp](https://github.com/LostRuins/koboldcpp) - a community's favorite for running GGUF models locally
|
||||
* [tabbyAPI](https://github.com/theroyallab/tabbyAPI) - a popular, lightweight, locally-hosted exl2 inference API
|
||||
* [OpenRouter](https://openrouter.ai) - a single API for many cloud providers (OpenAI, Claude, Meta Llama, etc.) as well as popular community models.
|
||||
Since SillyTavern is only a user interface, it has tiny hardware requirements, it will run on anything. It's the AI system backend that needs to be powerful.
|
||||
|
||||
## Questions or suggestions?
|
||||
|
||||
### Discord server
|
||||
### We now have a community Discord server
|
||||
|
||||
| [![][discord-shield-badge]][discord-link] | [Join our Discord community!](https://discord.gg/sillytavern) Get support, share favorite characters and prompts. |
|
||||
| :---------------------------------------- | :----------------------------------------------------------------------------------------------------------------- |
|
||||
|
||||
Or get in touch with the developers directly:
|
||||
|
||||
* Discord: cohee, rossascends, wolfsblvt
|
||||
* Reddit: [/u/RossAscends](https://www.reddit.com/user/RossAscends/), [/u/sillylossy](https://www.reddit.com/user/sillylossy/), [u/Wolfsblvt](https://www.reddit.com/user/Wolfsblvt/)
|
||||
* Discord: cohee or rossascends
|
||||
* Reddit: [/u/RossAscends](https://www.reddit.com/user/RossAscends/) or [/u/sillylossy](https://www.reddit.com/user/sillylossy/)
|
||||
* [Post a GitHub issue](https://github.com/SillyTavern/SillyTavern/issues)
|
||||
|
||||
### I like your project! How do I contribute?
|
||||
## This version includes
|
||||
|
||||
1. Send pull requests. Learn how to contribute: [CONTRIBUTING.md](../CONTRIBUTING.md)
|
||||
2. Send feature suggestions and issue reports using the provided templates.
|
||||
3. Read this entire readme file and check the documentation website first, to avoid sending duplicate issues.
|
||||
|
||||
## Screenshots
|
||||
|
||||
<img width="500" alt="image" src="https://github.com/user-attachments/assets/9b5f32f0-c3b3-4102-b3f5-0e9213c0f50f">
|
||||
<img width="500" alt="image" src="https://github.com/user-attachments/assets/913fdbaa-7d33-42f1-ae2c-89dca41c53d1">
|
||||
|
||||
## Character Cards
|
||||
|
||||
SillyTavern is built around the concept of "character cards". A character card is a collection of prompts that set the behavior of the LLM and is required to have persistent conversations in SillyTavern. They function similarly to ChatGPT's GPTs or Poe's bots. The content of a character card can be anything: an abstract scenario, an assistant tailored for a specific task, a famous personality or a fictional character.
|
||||
|
||||
The name field is the only required character card input. To start a neutral conversation with the language model, create a new card simply called "Assistant" and leave the rest of the boxes blank. For a more themed chat, you can provide the language model with various background details, behavior and writing patterns, and a scenario to jump start the chat.
|
||||
|
||||
To have a quick conversation without selecting a character card or to just test the LLM connection, simply type your prompt input into the input bar on the Welcome Screen after opening SillyTavern. Please note that such chats are temporary and will not be saved.
|
||||
|
||||
To get a general idea on how to define character cards, see the default character (Seraphina) or download selected community-made cards from the "Download Extensions & Assets" menu.
|
||||
|
||||
## Key Features
|
||||
|
||||
* Advanced text generation settings with many community-made presets
|
||||
* A heavily modified TavernAI 1.2.8 (more than 50% of code rewritten or optimized)
|
||||
* Swipes
|
||||
* Group chats: multi-bot rooms for characters to talk to you or each other
|
||||
* Chat checkpoints / branching
|
||||
* Advanced KoboldAI / TextGen generation settings with a lot of community-made presets
|
||||
* World Info support: create rich lore or save tokens on your character card
|
||||
* Group chats: multi-bot rooms for characters to talk to you and/or each other
|
||||
* Rich UI customization options: theme colors, background images, custom CSS, and more
|
||||
* User personas: let the AI know a bit about you for greater immersion
|
||||
* Built-in RAG support: add documents to your chats for the AI to reference
|
||||
* Extensive chat commands subsystem and own [scripting engine](https://docs.sillytavern.app/usage/st-script/)
|
||||
* [OpenRouter](https://openrouter.ai) connection for various APIs (Claude, GPT-4/3.5 and more)
|
||||
* [Oobabooga's TextGen WebUI](https://github.com/oobabooga/text-generation-webui) API connection
|
||||
* [AI Horde](https://horde.koboldai.net/) connection
|
||||
* Prompt generation formatting tweaking
|
||||
|
||||
## Extensions
|
||||
|
||||
SillyTavern has extensibility support.
|
||||
SillyTavern has extensibility support, with some additional AI modules hosted via [SillyTavern Extras API](https://github.com/SillyTavern/SillyTavern-extras)
|
||||
|
||||
* Author's Note / Character Bias
|
||||
* Character emotional expressions (sprites)
|
||||
* Auto-Summary of the chat history
|
||||
* Automatic UI and chat translation
|
||||
* Stable Diffusion/FLUX/DALL-E image generation
|
||||
* Sending images to chat, and the AI interpreting the content
|
||||
* Stable Diffusion image generation (5 chat-related presets plus 'free mode')
|
||||
* Text-to-speech for AI response messages (via ElevenLabs, Silero, or the OS's System TTS)
|
||||
* Web Search capabilities for adding additional real world context to your prompts
|
||||
* Many more are available to download from the "Download Extensions & Assets" menu.
|
||||
|
||||
Tutorials on how to use them can be found in the [Docs](https://docs.sillytavern.app/).
|
||||
A full list of included extensions and tutorials on how to use them can be found in the [Docs](https://docs.sillytavern.app/).
|
||||
|
||||
## UI/CSS/Quality of Life tweaks by RossAscends
|
||||
|
||||
* Mobile UI optimized for iOS, and supports saving a shortcut to the home screen and opening in fullscreen mode.
|
||||
* HotKeys
|
||||
* Up = Edit last message in chat
|
||||
* Ctrl+Up = Edit last USER message in chat
|
||||
* Left = swipe left
|
||||
* Right = swipe right (NOTE: swipe hotkeys are disabled when the chat bar has something typed into it)
|
||||
* Ctrl+Left = view locally stored variables (in the browser console window)
|
||||
* Enter (with chat bar selected) = send your message to AI
|
||||
* Ctrl+Enter = Regenerate the last AI response
|
||||
|
||||
* User Name Changes and Character Deletion no longer force the page to refresh.
|
||||
|
||||
* Toggle option to automatically connect to API on page load.
|
||||
* Toggle option to automatically load the most recently viewed character on page load.
|
||||
* Better Token Counter - works on unsaved characters, and shows both permanent and temporary tokens.
|
||||
|
||||
* Better Past Chats View
|
||||
* New Chat filenames are saved in a readable format of "(character) - (when it was created)"
|
||||
* Chat preview increased from 40 characters to 300.
|
||||
* Multiple options for characters list sorting (by name, creation date, chat sizes).
|
||||
|
||||
* By default the left and right settings panel will close when you click away from it.
|
||||
* Clicking the Lock on the nav panel will hold the panel open, and this setting be remembered across sessions.
|
||||
* Nav panel status of open or closed will also be saved across sessions.
|
||||
|
||||
* Customizable chat UI:
|
||||
* Play a sound when a new message arrives
|
||||
* Switch between round or rectangle avatar styles
|
||||
* Have a wider chat window on the desktop
|
||||
* Optional semi-transparent glass-like panels
|
||||
* Customizable page colors for 'main text', 'quoted text', and 'italics text'.
|
||||
* Customizable UI background color and blur amount
|
||||
|
||||
# ⌛ Installation
|
||||
|
||||
> \[!WARNING]
|
||||
>
|
||||
> * DO NOT INSTALL INTO ANY WINDOWS CONTROLLED FOLDER (Program Files, System32, etc).
|
||||
> * DO NOT RUN START.BAT WITH ADMIN PERMISSIONS
|
||||
> * INSTALLATION ON WINDOWS 7 IS IMPOSSIBLE AS IT CAN NOT RUN NODEJS 18.16
|
||||
|
||||
## 🪟 Windows
|
||||
|
||||
### Installing via Git
|
||||
## Installing via Git
|
||||
1. Install [NodeJS](https://nodejs.org/en) (latest LTS version is recommended)
|
||||
2. Install [Git for Windows](https://gitforwindows.org/)
|
||||
3. Open Windows Explorer (`Win+E`)
|
||||
4. Browse to or Create a folder that is not controlled or monitored by Windows. (ex: C:\MySpecialFolder\)
|
||||
5. Open a Command Prompt inside that folder by clicking in the 'Address Bar' at the top, typing `cmd`, and pressing Enter.
|
||||
6. Once the black box (Command Prompt) pops up, type ONE of the following into it and press Enter:
|
||||
|
||||
1. Install [NodeJS](https://nodejs.org/en) (latest LTS version is recommended)
|
||||
2. Install [Git for Windows](https://gitforwindows.org/)
|
||||
3. Open Windows Explorer (`Win+E`)
|
||||
4. Browse to or Create a folder that is not controlled or monitored by Windows. (ex: C:\MySpecialFolder\)
|
||||
5. Open a Command Prompt inside that folder by clicking in the 'Address Bar' at the top, typing `cmd`, and pressing Enter.
|
||||
6. Once the black box (Command Prompt) pops up, type ONE of the following into it and press Enter:
|
||||
- for Release Branch: `git clone https://github.com/SillyTavern/SillyTavern -b release`
|
||||
- for Staging Branch: `git clone https://github.com/SillyTavern/SillyTavern -b staging`
|
||||
|
||||
* for Release Branch: `git clone https://github.com/SillyTavern/SillyTavern -b release`
|
||||
* for Staging Branch: `git clone https://github.com/SillyTavern/SillyTavern -b staging`
|
||||
7. Once everything is cloned, double-click `Start.bat` to make NodeJS install its requirements.
|
||||
8. The server will then start, and SillyTavern will pop up in your browser.
|
||||
|
||||
7. Once everything is cloned, double-click `Start.bat` to make NodeJS install its requirements.
|
||||
8. The server will then start, and SillyTavern will pop up in your browser.
|
||||
|
||||
### Installing via GitHub Desktop
|
||||
## Installing via SillyTavern Launcher
|
||||
1. Install [Git for Windows](https://gitforwindows.org/)
|
||||
2. Open Windows Explorer (`Win+E`) and make or choose a folder where you wanna install the launcher to
|
||||
3. Open a Command Prompt inside that folder by clicking in the 'Address Bar' at the top, typing `cmd`, and pressing Enter.
|
||||
4. When you see a black box, insert the following command: `git clone https://github.com/SillyTavern/SillyTavern-Launcher.git`
|
||||
5. Double-click on `installer.bat` and choose what you wanna install
|
||||
6. After installation double-click on `launcher.bat`
|
||||
|
||||
## Installing via GitHub Desktop
|
||||
(This allows git usage **only** in GitHub Desktop, if you want to use `git` on the command line too, you also need to install [Git for Windows](https://gitforwindows.org/))
|
||||
|
||||
1. Install [NodeJS](https://nodejs.org/en) (latest LTS version is recommended)
|
||||
2. Install [GitHub Desktop](https://central.github.com/deployments/desktop/desktop/latest/win32)
|
||||
3. After installing GitHub Desktop, click on `Clone a repository from the internet....` (Note: You **do NOT need** to create a GitHub account for this step)
|
||||
@@ -159,200 +170,154 @@ For MacOS / Linux all of these will be done in a Terminal.
|
||||
1. Install git and nodeJS (the method for doing this will vary depending on your OS)
|
||||
2. Clone the repo
|
||||
|
||||
* for Release Branch: `git clone https://github.com/SillyTavern/SillyTavern -b release`
|
||||
* for Staging Branch: `git clone https://github.com/SillyTavern/SillyTavern -b staging`
|
||||
- for Release Branch: `git clone https://github.com/SillyTavern/SillyTavern -b release`
|
||||
- for Staging Branch: `git clone https://github.com/SillyTavern/SillyTavern -b staging`
|
||||
|
||||
3. `cd SillyTavern` to navigate into the install folder.
|
||||
4. Run the `start.sh` script with one of these commands:
|
||||
|
||||
* `./start.sh`
|
||||
* `bash start.sh`
|
||||
- `./start.sh`
|
||||
- `bash start.sh`
|
||||
|
||||
## ⚡ Installing via SillyTavern Launcher
|
||||
|
||||
SillyTavern Launcher is an installation wizard that will help you get setup with many options, including installing a backend for local inference.
|
||||
|
||||
### For Windows users
|
||||
|
||||
1. On your keyboard: press **`WINDOWS + R`** to open Run dialog box. Then, run the following command to install git:
|
||||
|
||||
```shell
|
||||
cmd /c winget install -e --id Git.Git
|
||||
```
|
||||
|
||||
2. On your keyboard: press **`WINDOWS + E`** to open File Explorer, then navigate to the folder where you want to install the launcher. Once in the desired folder, type `cmd` into the address bar and press enter. Then, run the following command:
|
||||
|
||||
```shell
|
||||
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher && start installer.bat
|
||||
```
|
||||
## Installing via SillyTavern Launcher
|
||||
|
||||
### For Linux users
|
||||
|
||||
1. Open your favorite terminal and install git
|
||||
2. Git clone the Sillytavern-Launcher with:
|
||||
|
||||
```shell
|
||||
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher
|
||||
```
|
||||
|
||||
3. Start the installer.sh with:
|
||||
|
||||
```shell
|
||||
chmod +x install.sh && ./install.sh
|
||||
```
|
||||
|
||||
4. After installation start the launcher.sh with:
|
||||
|
||||
```shell
|
||||
chmod +x launcher.sh && ./launcher.sh
|
||||
```
|
||||
2. Download Sillytavern Launcher with: `git clone https://github.com/SillyTavern/SillyTavern-Launcher.git`
|
||||
3. Navigate to the SillyTavern-Launcher with: `cd SillyTavern-Launcher`
|
||||
4. Start the install launcher with: `chmod +x install.sh && ./install.sh` and choose what you wanna install
|
||||
5. After installation start the launcher with: `chmod +x launcher.sh && ./launcher.sh`
|
||||
|
||||
### For Mac users
|
||||
1. Open a terminal and install brew with: `/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"`
|
||||
2. Then install git with: `brew install git`
|
||||
3. Download Sillytavern Launcher with: `git clone https://github.com/SillyTavern/SillyTavern-Launcher.git`
|
||||
4. Navigate to the SillyTavern-Launcher with: `cd SillyTavern-Launcher`
|
||||
5. Start the install launcher with: `chmod +x install.sh && ./install.sh` and choose what you wanna install
|
||||
6. After installation start the launcher with: `chmod +x launcher.sh && ./launcher.sh`
|
||||
|
||||
1. Open a terminal and install brew with:
|
||||
|
||||
```shell
|
||||
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
|
||||
```
|
||||
|
||||
2. Install git with:
|
||||
|
||||
```shell
|
||||
brew install git
|
||||
```
|
||||
|
||||
3. Git clone the Sillytavern-Launcher with:
|
||||
|
||||
```shell
|
||||
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher
|
||||
```
|
||||
|
||||
4. Start the installer.sh with:
|
||||
|
||||
```shell
|
||||
chmod +x install.sh && ./install.sh
|
||||
```
|
||||
|
||||
5. After installation start the launcher.sh with:
|
||||
|
||||
```shell
|
||||
chmod +x launcher.sh && ./launcher.sh
|
||||
```
|
||||
|
||||
## 🐋 Installing via Docker
|
||||
|
||||
These instructions assume you have installed Docker, are able to access your command line for the installation of containers, and familiar with their general operation.
|
||||
|
||||
### Building the image yourself
|
||||
|
||||
We have a comprehensive guide on using SillyTavern in Docker [here](http://docs.sillytavern.app/installation/docker/) which covers installations on Windows, macOS and Linux! Give it a read if you wish to build the image yourself.
|
||||
|
||||
### Using the GitHub Container Registry (easiest)
|
||||
|
||||
You will need two mandatory directory mappings and a port mapping to allow SillyTavern to function. In the command, replace your selections in the following places:
|
||||
|
||||
#### Container Variables
|
||||
|
||||
##### Volume Mappings
|
||||
|
||||
* [config] - The directory where SillyTavern configuration files will be stored on your host machine
|
||||
* [data] - The directory where SillyTavern user data (including characters) will be stored on your host machine
|
||||
* [plugins] - (optional) The directory where SillyTavern server plugins will be stored on your host machine
|
||||
|
||||
##### Port Mappings
|
||||
|
||||
* [PublicPort] - The port to expose the traffic on. This is mandatory, as you will be accessing the instance from outside of its virtual machine container. DO NOT expose this to the internet without implementing a separate service for security.
|
||||
|
||||
##### Additional Settings
|
||||
|
||||
* [DockerNet] - The docker network that the container should be created with a connection to. If you don't know what it is, see the [official Docker documentation](https://docs.docker.com/reference/cli/docker/network/).
|
||||
* [version] - On the right-hand side of this GitHub page, you'll see "Packages". Select the "sillytavern" package and you'll see the image versions. The image tag "latest" will keep you up-to-date with the current release. You can also utilize "staging" and "release" tags that point to the nightly images of the respective branches, but this may not be appropriate, if you are utilizing extensions that could be broken, and may need time to update.
|
||||
|
||||
#### Install command
|
||||
|
||||
1. Open your Command Line
|
||||
2. Run the following command
|
||||
|
||||
`docker create --name='sillytavern' --net='[DockerNet]' -p '8000:8000/tcp' -v '[plugins]':'/home/node/app/plugins':'rw' -v '[config]':'/home/node/app/config':'rw' -v '[data]':'/home/node/app/data':'rw' 'ghcr.io/sillytavern/sillytavern:[version]'`
|
||||
|
||||
> Note that 8000 is a default listening port. Don't forget to use an appropriate port if you change it in the config.
|
||||
|
||||
## 📱 Installing via Termux on Android OS
|
||||
## 📱 Mobile - Installing via termux
|
||||
|
||||
> \[!NOTE]
|
||||
> **SillyTavern can be run natively on Android devices using Termux, but we do not provide official support for this use case.**
|
||||
>
|
||||
> **Please refer to this guide by ArroganceComplex#2659:**
|
||||
>
|
||||
> **SillyTavern can be run natively on Android phones using Termux. Please refer to this guide by ArroganceComplex#2659:**
|
||||
> * <https://rentry.org/STAI-Termux>
|
||||
|
||||
**Unsupported platform: android arm LEtime-web.** 32-bit Android requires an external dependency that can't be installed with npm. Use the following command to install it: `pkg install esbuild`. Then run the usual installation steps.
|
||||
|
||||
## API keys management
|
||||
|
||||
SillyTavern saves your API keys to a `secrets.json` file in the user data directory (`/data/default-user/secrets.json` is the default path).
|
||||
SillyTavern saves your API keys to a `secrets.json` file in the server directory.
|
||||
|
||||
By default, API keys will not be visible from the interface after you have saved them and refreshed the page.
|
||||
By default, they will not be exposed to a frontend after you enter them and reload the page.
|
||||
|
||||
In order to enable viewing your keys:
|
||||
In order to enable viewing your keys by clicking a button in the API block:
|
||||
|
||||
1. Set the value of `allowKeysExposure` to `true` in `config.yaml` file.
|
||||
2. Restart the SillyTavern server.
|
||||
3. Click the 'View hidden API keys' link at the bottom right of the API Connection Panel.
|
||||
|
||||
## Command-line arguments
|
||||
|
||||
You can pass command-line arguments to SillyTavern server startup to override some settings in `config.yaml`.
|
||||
|
||||
### Examples
|
||||
|
||||
```shell
|
||||
node server.js --port 8000 --listen false
|
||||
# or
|
||||
npm run start -- --port 8000 --listen false
|
||||
# or (Windows only)
|
||||
Start.bat --port 8000 --listen false
|
||||
```
|
||||
|
||||
### Supported arguments
|
||||
|
||||
| Option | Description | Type |
|
||||
|-------------------------|------------------------------------------------------------------------------------------------------|----------|
|
||||
| `--version` | Show version number | boolean |
|
||||
| `--enableIPv6` | Enables IPv6. | boolean |
|
||||
| `--enableIPv4` | Enables IPv4. | boolean |
|
||||
| `--port` | Sets the port under which SillyTavern will run. If not provided falls back to yaml config 'port'. | number |
|
||||
| `--dnsPreferIPv6` | Prefers IPv6 for dns. If not provided falls back to yaml config 'preferIPv6'. | boolean |
|
||||
| `--autorun` | Automatically launch SillyTavern in the browser. If not provided falls back to yaml config 'autorun'.| boolean |
|
||||
| `--autorunHostname` | The autorun hostname, probably best left on 'auto'. | string |
|
||||
| `--autorunPortOverride` | Overrides the port for autorun. | string |
|
||||
| `--listen` | SillyTavern is listening on all network interfaces. If not provided falls back to yaml config 'listen'.| boolean |
|
||||
| `--corsProxy` | Enables CORS proxy. If not provided falls back to yaml config 'enableCorsProxy'. | boolean |
|
||||
| `--disableCsrf` | Disables CSRF protection | boolean |
|
||||
| `--ssl` | Enables SSL | boolean |
|
||||
| `--certPath` | Path to your certificate file. | string |
|
||||
| `--keyPath` | Path to your private key file. | string |
|
||||
| `--whitelist` | Enables whitelist mode | boolean |
|
||||
| `--dataRoot` | Root directory for data storage | string |
|
||||
| `--avoidLocalhost` | Avoids using 'localhost' for autorun in auto mode. | boolean |
|
||||
| `--basicAuthMode` | Enables basic authentication | boolean |
|
||||
| `--requestProxyEnabled` | Enables a use of proxy for outgoing requests | boolean |
|
||||
| `--requestProxyUrl` | Request proxy URL (HTTP or SOCKS protocols) | string |
|
||||
| `--requestProxyBypass` | Request proxy bypass list (space separated list of hosts) | array |
|
||||
|
||||
## Remote connections
|
||||
|
||||
Most often this is for people who want to use SillyTavern on their mobile phones while their PC runs the ST server on the same Wi-Fi network. However, it can be used to allow remote connections from anywhere as well.
|
||||
Most often this is for people who want to use SillyTavern on their mobile phones while their PC runs the ST server on the same wifi network.
|
||||
|
||||
Read the detailed guide on how to set up remote connections in the [Docs](https://docs.sillytavern.app/usage/remoteconnections/).
|
||||
However, it can be used to allow remote connections from anywhere as well.
|
||||
|
||||
You may also want to configure SillyTavern user profiles with (optional) password protection: [Users](https://docs.sillytavern.app/installation/st-1.12.0-migration-guide/#users).
|
||||
**IMPORTANT: SillyTavern is a single-user program, so anyone who logs in will be able to see all characters and chats, and be able to change any settings inside the UI.**
|
||||
|
||||
### 1. Managing whitelisted IPs
|
||||
|
||||
* Create a new text file inside your SillyTavern base install folder called `whitelist.txt`.
|
||||
* Open the file in a text editor, and add a list of IPs you want to be allowed to connect.
|
||||
|
||||
*Both individual IPs and wildcard IP ranges are accepted. Examples:*
|
||||
|
||||
```txt
|
||||
192.168.0.1
|
||||
192.168.0.20
|
||||
```
|
||||
|
||||
or
|
||||
|
||||
```txt
|
||||
192.168.0.*
|
||||
```
|
||||
|
||||
(the above wildcard IP range will allow any device on the local network to connect)
|
||||
|
||||
CIDR masks are also accepted (eg. 10.0.0.0/24).
|
||||
|
||||
* Save the `whitelist.txt` file.
|
||||
* Restart your ST server.
|
||||
|
||||
Now devices which have the IP specified in the file will be able to connect.
|
||||
|
||||
*Note: `config.yaml` also has a `whitelist` array, which you can use in the same way, but this array will be ignored if `whitelist.txt` exists.*
|
||||
|
||||
### 2. Getting the IP for the ST host machine
|
||||
|
||||
After the whitelist has been setup, you'll need the IP of the ST-hosting device.
|
||||
|
||||
If the ST-hosting device is on the same wifi network, you will use the ST-host's internal wifi IP:
|
||||
|
||||
* For Windows: windows button > type `cmd.exe` in the search bar > type `ipconfig` in the console, hit Enter > look for `IPv4` listing.
|
||||
|
||||
If you (or someone else) want to connect to your hosted ST while not being on the same network, you will need the public IP of your ST-hosting device.
|
||||
|
||||
* While using the ST-hosting device, access [this page](https://whatismyipaddress.com/) and look for `IPv4`. This is what you would use to connect from the remote device.
|
||||
|
||||
### 3. Connect the remote device to the ST host machine
|
||||
|
||||
Whatever IP you ended up with for your situation, you will put that IP address and port number into the remote device's web browser.
|
||||
|
||||
A typical address for an ST host on the same wifi network would look like this:
|
||||
|
||||
`http://192.168.0.5:8000`
|
||||
|
||||
Use http:// NOT https://
|
||||
|
||||
### Opening your ST to all IPs
|
||||
|
||||
We do not recommend doing this, but you can open `config.yaml` and change `whitelistMode` to `false`.
|
||||
|
||||
You must remove (or rename) `whitelist.txt` in the SillyTavern base install folder if it exists.
|
||||
|
||||
This is usually an insecure practice, so we require you to set a username and password when you do this.
|
||||
|
||||
The username and password are set in `config.yaml`.
|
||||
|
||||
After restarting your ST server, any device will be able to connect to it, regardless of their IP as long as they know the username and password.
|
||||
|
||||
### Still Unable To Connect?
|
||||
|
||||
* Create an inbound/outbound firewall rule for the port found in `config.yaml`. Do NOT mistake this for port-forwarding on your router, otherwise, someone could find your chat logs and that's a big no-no.
|
||||
* Enable the Private Network profile type in Settings > Network and Internet > Ethernet. This is VERY important for Windows 11, otherwise, you would be unable to connect even with the aforementioned firewall rules.
|
||||
|
||||
## Performance issues?
|
||||
|
||||
1. Disable the Blur Effect and enable Reduced Motion on the User Settings panel (UI Theme toggles category).
|
||||
2. If using response streaming, set the streaming FPS to a lower value (10-15 FPS is recommended).
|
||||
3. Make sure the browser is enabled to use GPU acceleration for rendering.
|
||||
Try enabling the No Blur Effect (Fast UI) mode on the User settings panel.
|
||||
|
||||
## I like your project! How do I contribute?
|
||||
|
||||
### DO's
|
||||
|
||||
1. Send pull requests
|
||||
2. Send feature suggestions and issue reports using established templates
|
||||
3. Read the readme file and built-in documentation before asking anything
|
||||
|
||||
### DONT's
|
||||
|
||||
1. Offer monetary donations
|
||||
2. Send bug reports without providing any context
|
||||
3. Ask the questions that were already answered numerous times
|
||||
|
||||
## Where can I find the old backgrounds?
|
||||
|
||||
We're moving to a 100% original content only policy, so old background images have been removed from this repository.
|
||||
|
||||
You can find them archived here:
|
||||
|
||||
<https://files.catbox.moe/1xevnc.zip>
|
||||
|
||||
|
||||
|
||||
|
||||
## License and credits
|
||||
|
||||
@@ -361,19 +326,31 @@ but WITHOUT ANY WARRANTY; without even the implied warranty of
|
||||
MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
|
||||
GNU Affero General Public License for more details.**
|
||||
|
||||
* [TavernAI](https://github.com/TavernAI/TavernAI) 1.2.8 by Humi: MIT License
|
||||
* Portions of CncAnon's TavernAITurbo mod used with permission
|
||||
* Visual Novel Mode inspired by the work of PepperTaco (<https://github.com/peppertaco/Tavern/>)
|
||||
* TAI Base by Humi: Unknown license
|
||||
* Cohee's modifications and derived code: AGPL v3
|
||||
* RossAscends' additions: AGPL v3
|
||||
* Portions of CncAnon's TavernAITurbo mod: Unknown license
|
||||
* kingbri's various commits and suggestions (<https://github.com/bdashore3>)
|
||||
* city_unit's extensions and various QoL features (<https://github.com/city-unit>)
|
||||
* StefanDanielSchwarz's various commits and bug reports (<https://github.com/StefanDanielSchwarz>)
|
||||
* Waifu mode inspired by the work of PepperTaco (<https://github.com/peppertaco/Tavern/>)
|
||||
* Thanks Pygmalion University for being awesome testers and suggesting cool features!
|
||||
* Thanks oobabooga for compiling presets for TextGen
|
||||
* KoboldAI Presets from KAI Lite: <https://lite.koboldai.net/>
|
||||
* Noto Sans font by Google (OFL license)
|
||||
* Icon theme by Font Awesome <https://fontawesome.com> (Icons: CC BY 4.0, Fonts: SIL OFL 1.1, Code: MIT License)
|
||||
* Default content by @OtisAlejandro (Seraphina character and lorebook) and @kallmeflocc (10K Discord Users Celebratory Background)
|
||||
* Docker guide by [@mrguymiah](https://github.com/mrguymiah) and [@Bronya-Rand](https://github.com/Bronya-Rand)
|
||||
|
||||
## Top Contributors
|
||||
|
||||
[](https://github.com/SillyTavern/SillyTavern/graphs/contributors)
|
||||
* AI Horde client library by ZeldaFan0225: <https://github.com/ZeldaFan0225/ai_horde>
|
||||
* Linux startup script by AlpinDale
|
||||
* Thanks paniphons for providing a FAQ document
|
||||
* 10K Discord Users Celebratory Background by @kallmeflocc
|
||||
* Default content (characters and lore books) provided by @OtisAlejandro, @RossAscends and @kallmeflocc
|
||||
* Korean translation by @doloroushyeonse
|
||||
* k_euler_a support for Horde by <https://github.com/Teashrock>
|
||||
* Chinese translation by [@XXpE3](https://github.com/XXpE3), 中文 ISSUES 可以联系 @XXpE3
|
||||
|
||||
<!-- LINK GROUP -->
|
||||
[cover]: https://github.com/user-attachments/assets/01a6ae9a-16aa-45f2-8bff-32b5dc587e44
|
||||
[back-to-top]: https://img.shields.io/badge/-BACK_TO_TOP-151515?style=flat-square
|
||||
[cover]: https://github.com/SillyTavern/SillyTavern/assets/18619528/c2be4c3f-aada-4f64-87a3-ae35a68b61a4
|
||||
[discord-link]: https://discord.gg/sillytavern
|
||||
[discord-shield]: https://img.shields.io/discord/1100685673633153084?color=5865F2&label=discord&labelColor=black&logo=discord&logoColor=white&style=flat-square
|
||||
[discord-shield-badge]: https://img.shields.io/discord/1100685673633153084?color=5865F2&label=discord&labelColor=black&logo=discord&logoColor=white&style=for-the-badge
|
||||
|
||||
@@ -16,21 +16,21 @@ jobs:
|
||||
uses: actions/stale@v4
|
||||
with:
|
||||
repo-token: ${{ secrets.BOT_GITHUB_TOKEN || secrets.GITHUB_TOKEN }}
|
||||
days-before-stale: 183
|
||||
days-before-close: 7
|
||||
days-before-stale: 360
|
||||
days-before-close: 5
|
||||
operations-per-run: 30
|
||||
remove-stale-when-updated: true
|
||||
enable-statistics: true
|
||||
stale-issue-message: >
|
||||
This issue has gone 6 months without an update. To keep the ticket open, please indicate that it is still relevant in a comment below.
|
||||
Otherwise it will be closed in 7 days.
|
||||
This issue has gone 3 months without an update. To keep the ticket open, please indicate that it is still relevant in a comment below.
|
||||
Otherwise it will be closed in 5 working days.
|
||||
stale-pr-message: >
|
||||
This PR is stale because it has been open 6 months with no activity. Either remove the stale label or comment below with a short update,
|
||||
otherwise this PR will be closed in 7 days.
|
||||
This PR is stale because it has been open 6 weeks with no activity. Either remove the stale label or comment below with a short update,
|
||||
otherwise this PR will be closed in 5 days.
|
||||
close-issue-message: >
|
||||
This issue was automatically closed because it has been stalled for over 6 months with no activity.
|
||||
This issue was automatically closed because it has been stalled for over 1 year with no activity.
|
||||
close-pr-message: >
|
||||
This pull request was automatically closed because it has been stalled for over 6 months with no activity.
|
||||
This pull request was automatically closed because it has been stalled for over 1 year with no activity.
|
||||
stale-issue-label: '⚰️ Stale'
|
||||
close-issue-label: '🕸️ Inactive'
|
||||
stale-pr-label: '⚰️ Stale'
|
||||
@@ -44,8 +44,8 @@ jobs:
|
||||
uses: actions/stale@v4
|
||||
with:
|
||||
repo-token: ${{ secrets.BOT_GITHUB_TOKEN || secrets.GITHUB_TOKEN }}
|
||||
days-before-stale: 7
|
||||
days-before-close: 7
|
||||
days-before-stale: 5
|
||||
days-before-close: 3
|
||||
operations-per-run: 30
|
||||
remove-stale-when-updated: true
|
||||
stale-issue-message: >
|
||||
@@ -65,7 +65,7 @@ jobs:
|
||||
with:
|
||||
repo-token: ${{ secrets.BOT_GITHUB_TOKEN || secrets.GITHUB_TOKEN }}
|
||||
days-before-stale: 7
|
||||
days-before-close: 183
|
||||
days-before-close: 365
|
||||
operations-per-run: 30
|
||||
remove-stale-when-updated: true
|
||||
stale-issue-message: Hey SillyTavern, - Don't forget to respond!
|
||||
@@ -79,4 +79,4 @@ jobs:
|
||||
close-issue-label: '🕸️ Inactive'
|
||||
close-pr-label: '🕸️ Inactive'
|
||||
exempt-issue-labels: '📌 Keep Open'
|
||||
exempt-pr-labels: '📌 Keep Open'
|
||||
exempt-pr-labels: '📌 Keep Open'
|
||||
@@ -30,7 +30,7 @@ jobs:
|
||||
run: |
|
||||
echo "IMAGE_NAME=${REPO,,}" >> ${GITHUB_ENV}
|
||||
|
||||
# Using the following workaround because currently GitHub Actions
|
||||
# Using the following workaround because currently GitHub Actions
|
||||
# does not support logical AND/OR operations on triggers
|
||||
# It's currently not possible to have `branches` under the `schedule` trigger
|
||||
- name: Checkout the release branch (on release)
|
||||
@@ -65,12 +65,7 @@ jobs:
|
||||
id: metadata
|
||||
with:
|
||||
images: ${{ env.REGISTRY }}/${{ env.IMAGE_NAME }}
|
||||
# Release version tag if the workflow is triggered by a release
|
||||
# Branch name tag if the workflow is triggered by a push
|
||||
# Latest tag if the branch is release and the workflow is triggered by a push
|
||||
tags: |
|
||||
${{ github.event_name == 'release' && github.ref_name || env.BRANCH_NAME }}
|
||||
${{ github.event_name == 'push' && env.BRANCH_NAME == 'release' && 'latest' || '' }}
|
||||
tags: ${{ env.BRANCH_NAME }}
|
||||
|
||||
# Login into package repository as the person who created the release
|
||||
- name: Log in to the Container registry
|
||||
@@ -92,3 +87,10 @@ jobs:
|
||||
push: true
|
||||
tags: ${{ steps.metadata.outputs.tags }}
|
||||
labels: ${{ steps.metadata.outputs.labels }}
|
||||
|
||||
# If the workflow is triggered by a release, marks and push the image as such
|
||||
- name: Docker tag latest and push
|
||||
if: ${{ github.event_name == 'release' }}
|
||||
run: |
|
||||
docker tag $IMAGE_NAME:${{ github.ref_name }} $IMAGE_NAME:latest
|
||||
docker push $IMAGE_NAME:latest
|
||||
|
||||
@@ -1,32 +0,0 @@
|
||||
name: Update i18n data
|
||||
|
||||
on: workflow_dispatch
|
||||
|
||||
jobs:
|
||||
build:
|
||||
runs-on: ubuntu-latest
|
||||
permissions: # Job-level permissions configuration starts here
|
||||
contents: write # 'write' access to repository contents
|
||||
steps:
|
||||
- name: disable auto crlf
|
||||
uses: steve02081504/disable-autocrlf@v1
|
||||
- uses: actions/checkout@v4
|
||||
with:
|
||||
ref: ${{ github.head_ref }}
|
||||
fetch-depth: 0 # otherwise, there would be errors pushing refs to the destination repository.
|
||||
- name: Create local changes
|
||||
run: |
|
||||
aria2c https://raw.githubusercontent.com/SillyTavern/SillyTavern-i18n/main/generate.py
|
||||
aria2c https://raw.githubusercontent.com/SillyTavern/SillyTavern-i18n/main/requirements.txt
|
||||
pip install -r ./requirements.txt
|
||||
python ./generate.py "" --sort-keys
|
||||
rm -f ./generate.py ./requirements.txt
|
||||
- name: add all
|
||||
run: git add -A
|
||||
- name: push
|
||||
uses: actions-go/push@master
|
||||
with:
|
||||
author-email: 41898282+github-actions[bot]@users.noreply.github.com
|
||||
author-name: github-actions[bot]
|
||||
commit-message: 'i18n changes'
|
||||
remote: origin
|
||||
@@ -47,5 +47,3 @@ access.log
|
||||
public/css/user.css
|
||||
/plugins/
|
||||
/data
|
||||
/default/scaffold
|
||||
public/scripts/extensions/third-party
|
||||
|
||||
@@ -5,9 +5,4 @@ node_modules/
|
||||
secrets.json
|
||||
/dist
|
||||
/backups/
|
||||
/data
|
||||
/cache
|
||||
access.log
|
||||
.github
|
||||
.vscode
|
||||
.git
|
||||
|
||||
Vendored
+1
-2
@@ -4,8 +4,7 @@
|
||||
// List of extensions which should be recommended for users of this workspace.
|
||||
"recommendations": [
|
||||
"dbaeumer.vscode-eslint",
|
||||
"EditorConfig.EditorConfig",
|
||||
"mrcrowl.easy-less"
|
||||
"EditorConfig.EditorConfig"
|
||||
],
|
||||
// List of extensions recommended by VS Code that should not be recommended for users of this workspace.
|
||||
"unwantedRecommendations": []
|
||||
|
||||
@@ -1,41 +0,0 @@
|
||||
# How to contribute to SillyTavern
|
||||
|
||||
## Setting up the dev environment
|
||||
|
||||
1. Required software: git and node.
|
||||
2. Recommended editor: Visual Studio Code.
|
||||
3. You can also use GitHub Codespaces which sets up everything for you.
|
||||
|
||||
## Getting the code ready
|
||||
|
||||
1. Register a GitHub account.
|
||||
2. Fork this repository under your account.
|
||||
3. Clone the fork onto your machine.
|
||||
4. Open the cloned repository in the code editor.
|
||||
5. Create a git branch (recommended).
|
||||
6. Make your changes and test them locally.
|
||||
7. Commit the changes and push the branch to the remote repo.
|
||||
8. Go to GitHub, and open a pull request, targeting the upstream branch.
|
||||
|
||||
## Contribution guidelines
|
||||
|
||||
1. Our standards are pretty low, but make sure the code is not too ugly:
|
||||
- Run VS Code's autoformat when you're done.
|
||||
- Check with ESLint by running `npm run lint`, then fix the errors.
|
||||
- Use common sense and follow existing naming conventions.
|
||||
2. Create pull requests for the staging branch, 99% of contributions should go there. That way people could test your code before the next stable release.
|
||||
3. You can still send a pull request for release in the following scenarios:
|
||||
- Updating README.
|
||||
- Updating GitHub Actions.
|
||||
- Hotfixing a critical bug.
|
||||
4. Project maintainers will test and can change your code before merging.
|
||||
5. Write at least somewhat meaningful PR descriptions. There's no "right" way to do it, but the following may help with outlining a general structure:
|
||||
- What is the reason for a change?
|
||||
- What did you do to achieve this?
|
||||
- How would a reviewer test the change?
|
||||
6. Mind the license. Your contributions will be licensed under the GNU Affero General Public License. If you don't know what that implies, consult your lawyer.
|
||||
|
||||
## Further reading
|
||||
|
||||
1. [How to write UI extensions](https://docs.sillytavern.app/for-contributors/writing-extensions/)
|
||||
2. [How to write server plugins](https://docs.sillytavern.app/for-contributors/server-plugins)
|
||||
+2
-2
@@ -1,4 +1,4 @@
|
||||
FROM node:lts-alpine3.19
|
||||
FROM node:lts-alpine3.18
|
||||
|
||||
# Arguments
|
||||
ARG APP_HOME=/home/node/app
|
||||
@@ -19,7 +19,7 @@ ENV NODE_ENV=production
|
||||
COPY package*.json post-install.js ./
|
||||
RUN \
|
||||
echo "*** Install npm packages ***" && \
|
||||
npm i --no-audit --no-fund --loglevel=error --no-progress --omit=dev && npm cache clean --force
|
||||
npm i --no-audit --no-fund --quiet --omit=dev && npm cache clean --force
|
||||
|
||||
# Bundle app source
|
||||
COPY . ./
|
||||
|
||||
@@ -1,7 +1,7 @@
|
||||
@echo off
|
||||
pushd %~dp0
|
||||
set NODE_ENV=production
|
||||
call npm install --no-audit --no-fund --loglevel=error --no-progress --omit=dev
|
||||
call npm install --no-audit --no-fund --quiet --omit=dev
|
||||
node server.js %*
|
||||
pause
|
||||
popd
|
||||
|
||||
+1
-1
@@ -12,7 +12,7 @@ if %errorlevel% neq 0 (
|
||||
)
|
||||
)
|
||||
set NODE_ENV=production
|
||||
call npm install --no-audit --no-fund --loglevel=error --no-progress --omit=dev
|
||||
call npm install --no-audit --no-fund --quiet --omit=dev
|
||||
node server.js %*
|
||||
pause
|
||||
popd
|
||||
|
||||
@@ -42,7 +42,7 @@ if NOT "!AUTO_SWITCH!"=="" (
|
||||
SET TARGET_BRANCH=release
|
||||
goto update
|
||||
)
|
||||
|
||||
|
||||
echo Auto-switching defined to stay on current branch
|
||||
goto update
|
||||
)
|
||||
@@ -95,7 +95,7 @@ if %errorlevel% neq 0 (
|
||||
|
||||
echo Installing npm packages and starting server
|
||||
set NODE_ENV=production
|
||||
call npm install --no-audit --no-fund --loglevel=error --no-progress --omit=dev
|
||||
call npm install --no-audit --no-fund --quiet --omit=dev
|
||||
node server.js %*
|
||||
|
||||
:end
|
||||
|
||||
@@ -1,9 +0,0 @@
|
||||
# Looking for setting snapshots or chat backups?
|
||||
|
||||
Individual user backups are now located in the data directory.
|
||||
|
||||
Example for the default user under default data root:
|
||||
|
||||
/data/default-user/backups
|
||||
|
||||
This folder remains for historical purposes only.
|
||||
+1
-67
@@ -4,22 +4,8 @@ dataRoot: ./data
|
||||
# -- SERVER CONFIGURATION --
|
||||
# Listen for incoming connections
|
||||
listen: false
|
||||
# Enables IPv6 and/or IPv4 protocols. Need to have at least one enabled!
|
||||
protocol:
|
||||
ipv4: true
|
||||
ipv6: false
|
||||
# Prefers IPv6 for DNS. Enable this on ISPs that don't have issues with IPv6
|
||||
dnsPreferIPv6: false
|
||||
# The hostname that autorun opens.
|
||||
# - Use "auto" to let the server decide
|
||||
# - Use options like 'localhost', 'st.example.com'
|
||||
autorunHostname: "auto"
|
||||
# Server port
|
||||
port: 8000
|
||||
# Overrides the port for autorun in browser.
|
||||
# - Use -1 to use the server port.
|
||||
# - Specify a port to override the default.
|
||||
autorunPortOverride: -1
|
||||
# -- SECURITY CONFIGURATION --
|
||||
# Toggle whitelist mode
|
||||
whitelistMode: true
|
||||
@@ -27,7 +13,6 @@ whitelistMode: true
|
||||
enableForwardedWhitelist: true
|
||||
# Whitelist of allowed IP addresses
|
||||
whitelist:
|
||||
- ::1
|
||||
- 127.0.0.1
|
||||
# Toggle basic authentication for endpoints
|
||||
basicAuthMode: false
|
||||
@@ -37,25 +22,10 @@ basicAuthUser:
|
||||
password: "password"
|
||||
# Enables CORS proxy middleware
|
||||
enableCorsProxy: false
|
||||
# -- REQUEST PROXY CONFIGURATION --
|
||||
requestProxy:
|
||||
# If a proxy is enabled, all outgoing HTTP/HTTPS requests will be routed through it.
|
||||
enabled: false
|
||||
# Proxy URL. Possible protocols: http, https, socks, socks5, socks4, pac
|
||||
url: "socks5://username:password@example.com:1080"
|
||||
# Proxy bypass list. Requests to these hosts won't be routed through the proxy.
|
||||
bypass:
|
||||
- localhost
|
||||
- 127.0.0.1
|
||||
# Enable multi-user mode
|
||||
enableUserAccounts: false
|
||||
# Enable discreet login mode: hides user list on the login screen
|
||||
enableDiscreetLogin: false
|
||||
# User session timeout *in seconds* (defaults to 24 hours).
|
||||
## Set to a positive number to expire session after a certain time of inactivity
|
||||
## Set to 0 to expire session when the browser is closed
|
||||
## Set to a negative number to disable session expiration
|
||||
sessionTimeout: 86400
|
||||
# Used to sign session cookies. Will be auto-generated if not set
|
||||
cookieSecret: ''
|
||||
# Disable CSRF protection - NOT RECOMMENDED
|
||||
@@ -65,9 +35,6 @@ securityOverride: false
|
||||
# -- ADVANCED CONFIGURATION --
|
||||
# Open the browser automatically
|
||||
autorun: true
|
||||
# Avoids using 'localhost' for autorun in auto mode.
|
||||
# use if you don't have 'localhost' in your hosts file
|
||||
avoidLocalhost: false
|
||||
# Disable thumbnail generation
|
||||
disableThumbnails: false
|
||||
# Thumbnail quality (0-100)
|
||||
@@ -81,10 +48,6 @@ allowKeysExposure: false
|
||||
skipContentCheck: false
|
||||
# Disable automatic chats backup
|
||||
disableChatBackup: false
|
||||
# Number of backups to keep for each chat and settings file
|
||||
numberOfBackups: 50
|
||||
# Interval in milliseconds to throttle chat backups per user
|
||||
chatBackupThrottleInterval: 10000
|
||||
# Allowed hosts for card downloads
|
||||
whitelistImportDomains:
|
||||
- localhost
|
||||
@@ -102,17 +65,9 @@ whitelistImportDomains:
|
||||
## headers:
|
||||
## User-Agent: "Googlebot/2.1 (+http://www.google.com/bot.html)"
|
||||
requestOverrides: []
|
||||
# -- EXTENSIONS CONFIGURATION --
|
||||
# -- PLUGIN CONFIGURATION --
|
||||
# Enable UI extensions
|
||||
enableExtensions: true
|
||||
# Automatically update extensions when a release version changes
|
||||
enableExtensionsAutoUpdate: true
|
||||
# Additional model tokenizers can be downloaded on demand.
|
||||
# Disabling will fallback to another locally available tokenizer.
|
||||
enableDownloadableTokenizers: true
|
||||
# Vector storage settings
|
||||
vectors:
|
||||
enableModelScopes: false
|
||||
# Extension settings
|
||||
extras:
|
||||
# Disables automatic model download from HuggingFace
|
||||
@@ -136,26 +91,5 @@ openai:
|
||||
deepl:
|
||||
# Available options: default, more, less, prefer_more, prefer_less
|
||||
formality: default
|
||||
# -- MISTRAL API CONFIGURATION --
|
||||
mistral:
|
||||
# Enables prefilling of the reply with the last assistant message in the prompt
|
||||
# CAUTION: The prefix is echoed into the completion. You may want to use regex to trim it out.
|
||||
enablePrefix: false
|
||||
# -- OLLAMA API CONFIGURATION --
|
||||
ollama:
|
||||
# Controls how long the model will stay loaded into memory following the request
|
||||
# * -1: Keep the model loaded indefinitely
|
||||
# * 0: Unload the model immediately after the request
|
||||
# * N (any positive number): Keep the model loaded for N seconds after the request.
|
||||
keepAlive: -1
|
||||
# -- ANTHROPIC CLAUDE API CONFIGURATION --
|
||||
claude:
|
||||
# Enables caching of the system prompt (if supported).
|
||||
# https://docs.anthropic.com/en/docs/build-with-claude/prompt-caching
|
||||
# -- IMPORTANT! --
|
||||
# Use only when the prompt before the chat history is static and doesn't change between requests
|
||||
# (e.g {{random}} macro or lorebooks not as in-chat injections).
|
||||
# Otherwise, you'll just waste money on cache misses.
|
||||
enableSystemPromptCache: false
|
||||
# -- SERVER PLUGIN CONFIGURATION --
|
||||
enableServerPlugins: false
|
||||
|
||||
Binary file not shown.
|
After Width: | Height: | Size: 338 KiB |
Binary file not shown.
|
After Width: | Height: | Size: 598 KiB |
+26
-122
@@ -11,18 +11,6 @@
|
||||
"filename": "themes/Cappuccino.json",
|
||||
"type": "theme"
|
||||
},
|
||||
{
|
||||
"filename": "themes/Celestial Macaron.json",
|
||||
"type": "theme"
|
||||
},
|
||||
{
|
||||
"filename": "themes/Dark V 1.0.json",
|
||||
"type": "theme"
|
||||
},
|
||||
{
|
||||
"filename": "themes/Azure.json",
|
||||
"type": "theme"
|
||||
},
|
||||
{
|
||||
"filename": "backgrounds/__transparent.png",
|
||||
"type": "background"
|
||||
@@ -119,6 +107,14 @@
|
||||
"filename": "default_Seraphina.png",
|
||||
"type": "character"
|
||||
},
|
||||
{
|
||||
"filename": "default_CodingSensei.png",
|
||||
"type": "character"
|
||||
},
|
||||
{
|
||||
"filename": "default_FluxTheCat.png",
|
||||
"type": "character"
|
||||
},
|
||||
{
|
||||
"filename": "Seraphina",
|
||||
"type": "sprites"
|
||||
@@ -319,26 +315,6 @@
|
||||
"filename": "presets/novel/Writers-Daemon-Kayra.json",
|
||||
"type": "novel_preset"
|
||||
},
|
||||
{
|
||||
"filename": "presets/novel/Erato-Dragonfruit.json",
|
||||
"type": "novel_preset"
|
||||
},
|
||||
{
|
||||
"filename": "presets/novel/Erato-Golden Arrow.json",
|
||||
"type": "novel_preset"
|
||||
},
|
||||
{
|
||||
"filename": "presets/novel/Erato-Shosetsu.json",
|
||||
"type": "novel_preset"
|
||||
},
|
||||
{
|
||||
"filename": "presets/novel/Erato-Wilder.json",
|
||||
"type": "novel_preset"
|
||||
},
|
||||
{
|
||||
"filename": "presets/novel/Erato-Zany Scribe.json",
|
||||
"type": "novel_preset"
|
||||
},
|
||||
{
|
||||
"filename": "presets/textgen/Asterism.json",
|
||||
"type": "textgen_preset"
|
||||
@@ -487,6 +463,10 @@
|
||||
"filename": "presets/context/Adventure.json",
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
"filename": "presets/context/Alpaca-Roleplay.json",
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
"filename": "presets/context/Alpaca-Single-Turn.json",
|
||||
"type": "context"
|
||||
@@ -504,11 +484,7 @@
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
"filename": "presets/context/DreamGen Role-Play V1 ChatML.json",
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
"filename": "presets/context/DreamGen Role-Play V1 Llama3.json",
|
||||
"filename": "presets/context/DreamGen Role-Play V1.json",
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
@@ -527,6 +503,10 @@
|
||||
"filename": "presets/context/Minimalist.json",
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
"filename": "presets/context/Mistral.json",
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
"filename": "presets/context/NovelAI.json",
|
||||
"type": "context"
|
||||
@@ -567,6 +547,10 @@
|
||||
"filename": "presets/instruct/Adventure.json",
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
"filename": "presets/instruct/Alpaca-Roleplay.json",
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
"filename": "presets/instruct/Alpaca-Single-Turn.json",
|
||||
"type": "instruct"
|
||||
@@ -580,11 +564,7 @@
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
"filename": "presets/instruct/DreamGen Role-Play V1 ChatML.json",
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
"filename": "presets/instruct/DreamGen Role-Play V1 Llama3.json",
|
||||
"filename": "presets/instruct/DreamGen Role-Play V1.json",
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
@@ -607,6 +587,10 @@
|
||||
"filename": "presets/instruct/Metharme.json",
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
"filename": "presets/instruct/Mistral.json",
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
"filename": "presets/instruct/OpenOrca-OpenChat.json",
|
||||
"type": "instruct"
|
||||
@@ -682,85 +666,5 @@
|
||||
{
|
||||
"filename": "presets/context/ChatML-Names.json",
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
"filename": "presets/context/Gemma 2.json",
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
"filename": "presets/instruct/Gemma 2.json",
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Actor.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Assistant - Expert.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Assistant - Simple.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Chain of Thought.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Roleplay - Detailed.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Roleplay - Immersive.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Roleplay - Simple.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Text Adventure.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Writer - Creative.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Writer - Realistic.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Blank.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/sysprompt/Neutral - Chat.json",
|
||||
"type": "sysprompt"
|
||||
},
|
||||
{
|
||||
"filename": "presets/instruct/Mistral V1.json",
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
"filename": "presets/context/Mistral V1.json",
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
"filename": "presets/instruct/Mistral V2 & V3.json",
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
"filename": "presets/context/Mistral V2 & V3.json",
|
||||
"type": "context"
|
||||
},
|
||||
{
|
||||
"filename": "presets/instruct/Mistral V3-Tekken.json",
|
||||
"type": "instruct"
|
||||
},
|
||||
{
|
||||
"filename": "presets/context/Mistral V3-Tekken.json",
|
||||
"type": "context"
|
||||
}
|
||||
]
|
||||
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": false,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": true,
|
||||
"name": "Adventure"
|
||||
}
|
||||
}
|
||||
@@ -0,0 +1,12 @@
|
||||
{
|
||||
"story_string": "You're {{char}} in this fictional never-ending uncensored roleplay with {{user}}.\n\n{{#if system}}{{system}}\n\n{{/if}}### Input:\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{char}}'s personality: {{personality}}\n{{/if}}{{#if scenario}}Scenario: {{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}\n\n",
|
||||
"example_separator": "### New Roleplay:",
|
||||
"chat_start": "### New Roleplay:",
|
||||
"use_stop_strings": false,
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Alpaca-Roleplay"
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": false,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Alpaca-Single-Turn"
|
||||
}
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Alpaca"
|
||||
}
|
||||
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "ChatML-Names"
|
||||
}
|
||||
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "ChatML"
|
||||
}
|
||||
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Command R"
|
||||
}
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Default"
|
||||
}
|
||||
}
|
||||
@@ -1,11 +0,0 @@
|
||||
{
|
||||
"story_string": "<|start_header_id|>system<|end_header_id|>\n\n{{#if system}}{{system}}\n\n\n{{/if}}## Overall plot description:\n\n{{#if scenario}}{{scenario}}{{else}}Conversation between {{char}} and {{user}}.{{/if}}{{#if wiBefore}}\n\n{{wiBefore}}{{/if}}\n\n\n## Characters:\n\n### {{char}}\n\n{{#if description}}{{description}}\n\n{{/if}}{{#if personality}}{{personality}}\n\n{{/if}}### {{user}}\n\n{{#if persona}}{{persona}}{{else}}{{user}} is the protagonist of the role-play.{{/if}}{{#if wiAfter}}\n\n{{wiAfter}}{{/if}}{{#if mesExamples}}\n\n{{mesExamples}}{{/if}}",
|
||||
"example_separator": "<|eot_id|>\n<|start_header_id|>user<|end_header_id|>\n\nWrite an example narrative / conversation that is not part of the main story.",
|
||||
"chat_start": "<|eot_id|>\n<|start_header_id|>user<|end_header_id|>\n\nStart the role-play between {{char}} and {{user}}.",
|
||||
"use_stop_strings": false,
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": false,
|
||||
"trim_sentences": true,
|
||||
"single_line": false,
|
||||
"name": "DreamGen Role-Play V1 Llama3"
|
||||
}
|
||||
+3
-2
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": false,
|
||||
"trim_sentences": true,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "DreamGen Role-Play V1 ChatML"
|
||||
}
|
||||
"name": "DreamGen Role-Play V1"
|
||||
}
|
||||
@@ -1,11 +0,0 @@
|
||||
{
|
||||
"story_string": "<start_of_turn>user\n{{#if system}}{{system}}\n{{/if}}{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{char}}'s personality: {{personality}}\n{{/if}}{{#if scenario}}Scenario: {{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}{{trim}}<end_of_turn>",
|
||||
"example_separator": "",
|
||||
"chat_start": "",
|
||||
"use_stop_strings": false,
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"single_line": false,
|
||||
"name": "Gemma 2"
|
||||
}
|
||||
@@ -1,11 +1,12 @@
|
||||
{
|
||||
"story_string": "### Instruction:\n{{#if system}}{{system}}\n\n{{/if}}### Character Sheet:\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{char}}'s personality: {{personality}}\n{{/if}}{{#if scenario}}Scenario: {{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}",
|
||||
"story_string": "### Instruction:\nWrite {{char}}'s next reply in this roleplay with {{user}}. Use the provided character sheet and example dialogue for formatting direction and character speech patterns.\n\n{{#if system}}{{system}}\n\n{{/if}}### Character Sheet:\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{char}}'s personality: {{personality}}\n{{/if}}{{#if scenario}}Scenario: {{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}",
|
||||
"example_separator": "### Example:",
|
||||
"chat_start": "### START ROLEPLAY:",
|
||||
"use_stop_strings": false,
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Libra-32B"
|
||||
}
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Lightning 1.1"
|
||||
}
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Llama 2 Chat"
|
||||
}
|
||||
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Llama 3 Instruct"
|
||||
}
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Llama-3-Instruct-Names"
|
||||
}
|
||||
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Minimalist"
|
||||
}
|
||||
}
|
||||
@@ -1,11 +0,0 @@
|
||||
{
|
||||
"story_string": " [INST] {{#if system}}{{system}}\n{{/if}}{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}{{trim}} [/INST] Understood.</s>",
|
||||
"example_separator": "",
|
||||
"chat_start": "",
|
||||
"use_stop_strings": false,
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"single_line": false,
|
||||
"name": "Mistral V1"
|
||||
}
|
||||
@@ -1,11 +0,0 @@
|
||||
{
|
||||
"story_string": "[INST] {{#if system}}{{system}}\n{{/if}}{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}{{trim}}[/INST] Understood.</s>",
|
||||
"example_separator": "",
|
||||
"chat_start": "",
|
||||
"use_stop_strings": false,
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"single_line": false,
|
||||
"name": "Mistral V2 & V3"
|
||||
}
|
||||
@@ -1,11 +0,0 @@
|
||||
{
|
||||
"story_string": "[INST]{{#if system}}{{system}}\n{{/if}}{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}{{trim}}[/INST]Understood.</s>",
|
||||
"example_separator": "",
|
||||
"chat_start": "",
|
||||
"use_stop_strings": false,
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"single_line": false,
|
||||
"name": "Mistral V3-Tekken"
|
||||
}
|
||||
@@ -0,0 +1,12 @@
|
||||
{
|
||||
"story_string": "[INST] {{#if system}}{{system}}\n{{/if}}{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{char}}'s personality: {{personality}}\n{{/if}}{{#if scenario}}Scenario: {{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}{{trim}} [/INST]",
|
||||
"example_separator": "Examples:",
|
||||
"chat_start": "",
|
||||
"use_stop_strings": false,
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Mistral"
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "NovelAI"
|
||||
}
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "OldDefault"
|
||||
}
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Phi"
|
||||
}
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Pygmalion"
|
||||
}
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Story"
|
||||
}
|
||||
}
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "Synthia"
|
||||
}
|
||||
|
||||
@@ -6,6 +6,7 @@
|
||||
"allow_jailbreak": false,
|
||||
"always_force_name2": true,
|
||||
"trim_sentences": false,
|
||||
"include_newline": false,
|
||||
"single_line": false,
|
||||
"name": "simple-proxy-for-tavern"
|
||||
}
|
||||
}
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "[Enter Adventure Mode. Narrate the story based on {{user}}'s dialogue and actions after \">\". Describe the surroundings in vivid detail. Be detailed, creative, verbose, and proactive. Move the story forward by introducing fantasy elements and interesting characters.]",
|
||||
"input_sequence": "",
|
||||
"output_sequence": "",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "none",
|
||||
"names": false,
|
||||
"names_force_groups": false,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -0,0 +1,24 @@
|
||||
{
|
||||
"system_prompt": "Develop the plot slowly, always stay in character. Describe all actions in full, elaborate, explicit, graphic, and vivid detail. Mention all relevant sensory perceptions.",
|
||||
"input_sequence": "### Instruction:",
|
||||
"output_sequence": "### Response:",
|
||||
"last_output_sequence": "### Response (2 paragraphs, engaging, natural, authentic, descriptive, creative):",
|
||||
"system_sequence": "### Input:",
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names": true,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
"first_output_sequence": "",
|
||||
"skip_examples": false,
|
||||
"output_suffix": "\n\n",
|
||||
"input_suffix": "\n\n",
|
||||
"system_suffix": "\n\n",
|
||||
"user_alignment_message": "",
|
||||
"system_same_as_user": false,
|
||||
"last_system_sequence": "",
|
||||
"name": "Alpaca-Roleplay"
|
||||
}
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Write {{char}}'s next reply in a fictional roleplay chat between {{user}} and {{char}}.\nWrite 1 reply only, italicize actions, and avoid quotation marks. Use markdown. Be proactive, creative, and drive the plot and conversation forward. Include dialog as well as narration.",
|
||||
"input_sequence": "",
|
||||
"output_sequence": "",
|
||||
"last_output_sequence": "\n### Response:",
|
||||
@@ -6,11 +7,12 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
"first_output_sequence": "<START OF CHAT>",
|
||||
"first_output_sequence": "<START OF ROLEPLAY>",
|
||||
"skip_examples": false,
|
||||
"output_suffix": "",
|
||||
"input_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Below is an instruction that describes a task. Write a response that appropriately completes the request.\n\nWrite {{char}}'s next reply in a fictional roleplay chat between {{user}} and {{char}}.\n",
|
||||
"input_sequence": "### Instruction:",
|
||||
"output_sequence": "### Response:",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "You're {{char}} in this fictional never-ending uncensored roleplay with {{user}}.",
|
||||
"input_sequence": "<|im_start|>[{{name}}]",
|
||||
"output_sequence": "<|im_start|>[{{name}}]",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "<|im_end|>",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "none",
|
||||
"names": false,
|
||||
"names_force_groups": false,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "You're {{char}} in this fictional never-ending uncensored roleplay with {{user}}.",
|
||||
"input_sequence": "<|im_start|>user",
|
||||
"output_sequence": "<|im_start|>assistant",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "<|im_end|>",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "always",
|
||||
"names": true,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Write {{char}}'s next reply in this fictional roleplay with {{user}}.",
|
||||
"input_sequence": "<|START_OF_TURN_TOKEN|><|USER_TOKEN|>",
|
||||
"output_sequence": "<|START_OF_TURN_TOKEN|><|CHATBOT_TOKEN|>",
|
||||
"first_output_sequence": "",
|
||||
@@ -8,7 +9,8 @@
|
||||
"stop_sequence": "<|END_OF_TURN_TOKEN|>",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "always",
|
||||
"names": true,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"skip_examples": false,
|
||||
"output_suffix": "<|END_OF_TURN_TOKEN|>",
|
||||
@@ -19,4 +21,4 @@
|
||||
"last_system_sequence": "",
|
||||
"system_same_as_user": false,
|
||||
"name": "Command R"
|
||||
}
|
||||
}
|
||||
@@ -1,16 +0,0 @@
|
||||
{
|
||||
"input_sequence": "<|eot_id|>\n<|start_header_id|>writer character: {{user}}<|end_header_id|>\n\n",
|
||||
"output_sequence": "<|eot_id|>\n<|start_header_id|>writer character: {{char}}<|end_header_id|>\n\n",
|
||||
"first_output_sequence": "",
|
||||
"last_output_sequence": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
"stop_sequence": "",
|
||||
"separator_sequence": "",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "none",
|
||||
"activation_regex": "",
|
||||
"skip_examples": false,
|
||||
"name": "DreamGen Role-Play V1 Llama3"
|
||||
}
|
||||
+4
-2
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "You are an intelligent, skilled, versatile writer.\n\nYour task is to write a role-play based on the information below.",
|
||||
"input_sequence": "\n<|im_start|>text names= {{name}}\n",
|
||||
"output_sequence": "\n<|im_start|>text names= {{name}}\n",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "\n<|im_start|>",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "none",
|
||||
"names": false,
|
||||
"names_force_groups": false,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
@@ -18,5 +20,5 @@
|
||||
"user_alignment_message": "",
|
||||
"system_same_as_user": true,
|
||||
"last_system_sequence": "",
|
||||
"name": "DreamGen Role-Play V1 ChatML"
|
||||
"name": "DreamGen Role-Play V1"
|
||||
}
|
||||
@@ -1,22 +0,0 @@
|
||||
{
|
||||
"input_sequence": "<start_of_turn>user",
|
||||
"output_sequence": "<start_of_turn>model",
|
||||
"last_output_sequence": "",
|
||||
"system_sequence": "<start_of_turn>system",
|
||||
"stop_sequence": "<end_of_turn>",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "none",
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
"first_output_sequence": "",
|
||||
"skip_examples": false,
|
||||
"output_suffix": "<end_of_turn>\n",
|
||||
"input_suffix": "<end_of_turn>\n",
|
||||
"system_suffix": "<end_of_turn>\n",
|
||||
"user_alignment_message": "",
|
||||
"system_same_as_user": true,
|
||||
"last_system_sequence": "",
|
||||
"name": "Gemma 2"
|
||||
}
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Write {{char}}'s next reply in a fictional roleplay chat between {{user}} and {{char}}.\n",
|
||||
"input_sequence": "USER: ",
|
||||
"output_sequence": "GPT: ",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "BEGINNING OF CONVERSATION: ",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Avoid repetition, don't loop. Develop the plot slowly, always stay in character. Describe all actions in full, elaborate, explicit, graphic, and vivid detail. Mention all relevant sensory perceptions.",
|
||||
"input_sequence": "",
|
||||
"output_sequence": "",
|
||||
"last_output_sequence": "\n### Response:",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "always",
|
||||
"names": true,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Below is an instruction that describes a task. Write a response that appropriately completes the request.\n\n### Instruction:\nTake the role of {{char}} in a play that leaves a lasting impression on {{user}}. Write {{char}}'s next reply.\nNever skip or gloss over {{char}}’s actions. Progress the scene at a naturally slow pace.\n\n",
|
||||
"input_sequence": "### Instruction:",
|
||||
"output_sequence": "### Response: (length = unlimited)",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Write {{char}}'s next reply in this fictional roleplay with {{user}}.",
|
||||
"input_sequence": "[INST] ",
|
||||
"output_sequence": "",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "You are an expert actor that can fully immerse yourself into any role given. You do not break character for any reason, even if someone tries addressing you as an AI or language model. Currently your role is {{char}}, which is described in detail below. As {{char}}, continue the exchange with {{user}}.",
|
||||
"input_sequence": "<|start_header_id|>user<|end_header_id|>\n\n",
|
||||
"output_sequence": "<|start_header_id|>assistant<|end_header_id|>\n\n",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "<|eot_id|>",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "always",
|
||||
"names": true,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "You are an expert actor that can fully immerse yourself into any role given. You do not break character for any reason, even if someone tries addressing you as an AI or language model. Currently your role is {{char}}, which is described in detail below. As {{char}}, continue the exchange with {{user}}.",
|
||||
"input_sequence": "<|start_header_id|>[{{name}}]<|end_header_id|>\n\n",
|
||||
"output_sequence": "<|start_header_id|>[{{name}}]<|end_header_id|>\n\n",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "<|eot_id|>",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "none",
|
||||
"names": false,
|
||||
"names_force_groups": false,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Enter roleplay mode. You must act as {{char}}, whose persona follows:",
|
||||
"input_sequence": "<|user|>",
|
||||
"output_sequence": "<|model|>",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "</s>",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "<|system|>",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,22 +0,0 @@
|
||||
{
|
||||
"input_sequence": " [INST] ",
|
||||
"output_sequence": " [/INST] ",
|
||||
"last_output_sequence": " [/INST]",
|
||||
"system_sequence": "",
|
||||
"stop_sequence": "",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "always",
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
"first_output_sequence": "",
|
||||
"skip_examples": false,
|
||||
"output_suffix": "</s>",
|
||||
"input_suffix": "",
|
||||
"system_suffix": "",
|
||||
"user_alignment_message": "Let's get started. Please respond based on the information and instructions provided above.",
|
||||
"system_same_as_user": true,
|
||||
"last_system_sequence": "",
|
||||
"name": "Mistral V1"
|
||||
}
|
||||
@@ -1,22 +0,0 @@
|
||||
{
|
||||
"input_sequence": "[INST]",
|
||||
"output_sequence": "[/INST]",
|
||||
"last_output_sequence": "",
|
||||
"system_sequence": "",
|
||||
"stop_sequence": "",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "always",
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
"first_output_sequence": "",
|
||||
"skip_examples": false,
|
||||
"output_suffix": "</s>",
|
||||
"input_suffix": "",
|
||||
"system_suffix": "",
|
||||
"user_alignment_message": "Let's get started. Please respond based on the information and instructions provided above.",
|
||||
"system_same_as_user": true,
|
||||
"last_system_sequence": "",
|
||||
"name": "Mistral V3-Tekken"
|
||||
}
|
||||
+8
-6
@@ -1,22 +1,24 @@
|
||||
{
|
||||
"system_prompt": "Write {{char}}'s next reply in this fictional roleplay with {{user}}.",
|
||||
"input_sequence": "[INST] ",
|
||||
"output_sequence": "[/INST] ",
|
||||
"last_output_sequence": "[/INST]",
|
||||
"output_sequence": "",
|
||||
"last_output_sequence": "",
|
||||
"system_sequence": "",
|
||||
"stop_sequence": "",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "always",
|
||||
"names": true,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
"first_output_sequence": "",
|
||||
"skip_examples": false,
|
||||
"output_suffix": "</s>",
|
||||
"input_suffix": "",
|
||||
"output_suffix": "\n",
|
||||
"input_suffix": " [/INST]\n",
|
||||
"system_suffix": "",
|
||||
"user_alignment_message": "Let's get started. Please respond based on the information and instructions provided above.",
|
||||
"system_same_as_user": true,
|
||||
"last_system_sequence": "",
|
||||
"name": "Mistral V2 & V3"
|
||||
"name": "Mistral"
|
||||
}
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "You are a helpful assistant. Please answer truthfully and write out your thinking step by step to be sure you get the right answer. If you make a mistake or encounter an error in your thinking, say so out loud and attempt to correct it. If you don't know or aren't sure about something, say so clearly. You will act as a professional logician, mathematician, and physicist. You will also act as the most appropriate type of expert to answer any particular question or solve the relevant problem; state which expert type your are, if so. Also think of any particular named expert that would be ideal to answer the relevant question or solve the relevant problem; name and act as them, if appropriate.\n",
|
||||
"input_sequence": "\nUser: ",
|
||||
"output_sequence": "\nAssistant: ",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Write {{char}}'s next reply in this fictional roleplay with {{user}}.",
|
||||
"input_sequence": "<|user|>\n",
|
||||
"output_sequence": "<|assistant|>\n",
|
||||
"first_output_sequence": "",
|
||||
@@ -8,7 +9,8 @@
|
||||
"stop_sequence": "<|end|>",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "always",
|
||||
"names": true,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"skip_examples": false,
|
||||
"output_suffix": "<|end|>\n",
|
||||
@@ -19,4 +21,4 @@
|
||||
"last_system_sequence": "",
|
||||
"system_same_as_user": false,
|
||||
"name": "Phi"
|
||||
}
|
||||
}
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Enter RP mode. You shall reply to {{user}} while staying in character. Your responses must be detailed, creative, immersive, and drive the scenario forward. You will follow {{char}}'s persona.",
|
||||
"input_sequence": "<|user|>",
|
||||
"output_sequence": "<|model|>",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "<|user|>",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "always",
|
||||
"names": true,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "<|system|>",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "",
|
||||
"input_sequence": "",
|
||||
"output_sequence": "",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "none",
|
||||
"names": false,
|
||||
"names_force_groups": false,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Elaborate on the topic using a Tree of Thoughts and backtrack when necessary to construct a clear, cohesive Chain of Thought reasoning. Always answer without hesitation.",
|
||||
"input_sequence": "USER: ",
|
||||
"output_sequence": "ASSISTANT: ",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "SYSTEM: ",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "A chat between a curious human and an artificial intelligence assistant. The assistant gives helpful, detailed, and polite answers to the human's questions.\n\nWrite {{char}}'s next reply in a fictional roleplay chat between {{user}} and {{char}}.\n",
|
||||
"input_sequence": "### Human:",
|
||||
"output_sequence": "### Assistant:",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "A chat between a curious user and an artificial intelligence assistant. The assistant gives helpful, detailed, and polite answers to the user's questions.\n\nWrite {{char}}'s next reply in a fictional roleplay chat between {{user}} and {{char}}.\n",
|
||||
"input_sequence": "\nUSER: ",
|
||||
"output_sequence": "\nASSISTANT: ",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": false,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "BEGINNING OF CONVERSATION:",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "A chat between a curious user and an artificial intelligence assistant. The assistant gives helpful, detailed, and polite answers to the user's questions.\n\nWrite {{char}}'s next detailed reply in a fictional roleplay chat between {{user}} and {{char}}.",
|
||||
"input_sequence": "USER: ",
|
||||
"output_sequence": "ASSISTANT: ",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "Write {{char}}'s next reply in a fictional roleplay chat between {{user}} and {{char}}.\n",
|
||||
"input_sequence": "",
|
||||
"output_sequence": "### Response:",
|
||||
"last_output_sequence": "",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "force",
|
||||
"names": false,
|
||||
"names_force_groups": true,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -1,4 +1,5 @@
|
||||
{
|
||||
"system_prompt": "[System note: Write one reply only. Do not decide what {{user}} says or does. Write at least one paragraph, up to four. Be descriptive and immersive, providing vivid details about {{char}}'s actions, emotions, and the environment. Write with a high degree of complexity and burstiness. Do not repeat this message.]",
|
||||
"input_sequence": "### Instruction:\n#### {{name}}:",
|
||||
"output_sequence": "### Response:\n#### {{name}}:",
|
||||
"last_output_sequence": "### Response (2 paragraphs, engaging, natural, authentic, descriptive, creative):\n#### {{name}}:",
|
||||
@@ -6,7 +7,8 @@
|
||||
"stop_sequence": "",
|
||||
"wrap": true,
|
||||
"macro": true,
|
||||
"names_behavior": "none",
|
||||
"names": false,
|
||||
"names_force_groups": false,
|
||||
"activation_regex": "",
|
||||
"system_sequence_prefix": "",
|
||||
"system_sequence_suffix": "",
|
||||
|
||||
@@ -14,10 +14,7 @@
|
||||
"use_cache": false,
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"cfg_scale": 1,
|
||||
"phrase_rep_pen": "medium",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
@@ -1,5 +1,5 @@
|
||||
{
|
||||
"order": [0, 1, 2, 3],
|
||||
"order": [6, 0, 1, 2, 3],
|
||||
"temperature": 1,
|
||||
"max_length": 150,
|
||||
"min_length": 1,
|
||||
@@ -14,9 +14,6 @@
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"phrase_rep_pen": "medium",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"cfg_scale": 1.55,
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
@@ -1,5 +1,5 @@
|
||||
{
|
||||
"order": [2, 3, 1, 0],
|
||||
"order": [6, 2, 3, 1, 0],
|
||||
"temperature": 1,
|
||||
"max_length": 150,
|
||||
"min_length": 1,
|
||||
@@ -15,9 +15,6 @@
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"phrase_rep_pen": "very_aggressive",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"cfg_scale": 1.3,
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
@@ -15,10 +15,7 @@
|
||||
"use_cache": false,
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"cfg_scale": 1,
|
||||
"phrase_rep_pen": "aggressive",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
@@ -1,5 +1,5 @@
|
||||
{
|
||||
"order": [8, 5, 0, 3],
|
||||
"order": [8, 6, 5, 0, 3],
|
||||
"temperature": 0.9,
|
||||
"max_length": 150,
|
||||
"min_length": 1,
|
||||
@@ -15,9 +15,6 @@
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"phrase_rep_pen": "off",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"cfg_scale": 1.48,
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
@@ -15,10 +15,7 @@
|
||||
"use_cache": false,
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"cfg_scale": 1,
|
||||
"phrase_rep_pen": "very_light",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
@@ -1,31 +0,0 @@
|
||||
{
|
||||
"max_context": 8000,
|
||||
"temperature": 1.37,
|
||||
"max_length": 150,
|
||||
"min_length": 1,
|
||||
"top_k": 0,
|
||||
"top_p": 1,
|
||||
"top_a": 0.1,
|
||||
"typical_p": 0.875,
|
||||
"tail_free_sampling": 0.87,
|
||||
"repetition_penalty": 3.25,
|
||||
"repetition_penalty_range": 6000,
|
||||
"repetition_penalty_slope": 3.25,
|
||||
"repetition_penalty_frequency": 0,
|
||||
"repetition_penalty_presence": 0,
|
||||
"phrase_rep_pen": "off",
|
||||
"mirostat_lr": 0.2,
|
||||
"mirostat_tau": 4,
|
||||
"math1_temp": 0.9,
|
||||
"math1_quad": 0.07,
|
||||
"math1_quad_entropy_scale": -0.05,
|
||||
"min_p": 0.035,
|
||||
"order": [
|
||||
0,
|
||||
5,
|
||||
9,
|
||||
10,
|
||||
8,
|
||||
4
|
||||
]
|
||||
}
|
||||
@@ -1,27 +0,0 @@
|
||||
{
|
||||
"max_context": 8000,
|
||||
"temperature": 1,
|
||||
"max_length": 150,
|
||||
"min_length": 1,
|
||||
"top_k": 0,
|
||||
"top_p": 0.995,
|
||||
"top_a": 1,
|
||||
"typical_p": 1,
|
||||
"tail_free_sampling": 0.87,
|
||||
"repetition_penalty": 1.5,
|
||||
"repetition_penalty_range": 2240,
|
||||
"repetition_penalty_slope": 1,
|
||||
"repetition_penalty_frequency": 0,
|
||||
"repetition_penalty_presence": 0,
|
||||
"phrase_rep_pen": "light",
|
||||
"mirostat_lr": 1,
|
||||
"mirostat_tau": 0,
|
||||
"math1_temp": 0.3,
|
||||
"math1_quad": 0.19,
|
||||
"math1_quad_entropy_scale": 0,
|
||||
"min_p": 0,
|
||||
"order": [
|
||||
9,
|
||||
2
|
||||
]
|
||||
}
|
||||
@@ -1,27 +0,0 @@
|
||||
{
|
||||
"max_context": 8000,
|
||||
"temperature": 1,
|
||||
"max_length": 150,
|
||||
"min_length": 1,
|
||||
"top_k": 50,
|
||||
"top_p": 0.85,
|
||||
"top_a": 1,
|
||||
"typical_p": 1,
|
||||
"tail_free_sampling": 0.895,
|
||||
"repetition_penalty": 1.63,
|
||||
"repetition_penalty_range": 1024,
|
||||
"repetition_penalty_slope": 3.33,
|
||||
"repetition_penalty_frequency": 0.0035,
|
||||
"repetition_penalty_presence": 0,
|
||||
"phrase_rep_pen": "medium",
|
||||
"mirostat_lr": 1,
|
||||
"mirostat_tau": 0,
|
||||
"math1_temp": 0.3,
|
||||
"math1_quad": 0.0645,
|
||||
"math1_quad_entropy_scale": 0.05,
|
||||
"min_p": 0.05,
|
||||
"order": [
|
||||
9,
|
||||
10
|
||||
]
|
||||
}
|
||||
@@ -1,27 +0,0 @@
|
||||
{
|
||||
"max_context": 8000,
|
||||
"temperature": 1,
|
||||
"max_length": 150,
|
||||
"min_length": 1,
|
||||
"top_k": 300,
|
||||
"top_p": 0.98,
|
||||
"top_a": 0.004,
|
||||
"typical_p": 0.96,
|
||||
"tail_free_sampling": 0.96,
|
||||
"repetition_penalty": 1.48,
|
||||
"repetition_penalty_range": 2240,
|
||||
"repetition_penalty_slope": 0.64,
|
||||
"repetition_penalty_frequency": 0,
|
||||
"repetition_penalty_presence": 0,
|
||||
"phrase_rep_pen": "medium",
|
||||
"mirostat_lr": 1,
|
||||
"mirostat_tau": 0,
|
||||
"math1_temp": -0.0485,
|
||||
"math1_quad": 0.145,
|
||||
"math1_quad_entropy_scale": 0,
|
||||
"min_p": 0.02,
|
||||
"order": [
|
||||
9,
|
||||
10
|
||||
]
|
||||
}
|
||||
@@ -1,27 +0,0 @@
|
||||
{
|
||||
"max_context": 8000,
|
||||
"temperature": 1,
|
||||
"max_length": 150,
|
||||
"min_length": 1,
|
||||
"top_k": 0,
|
||||
"top_p": 0.99,
|
||||
"top_a": 1,
|
||||
"typical_p": 1,
|
||||
"tail_free_sampling": 0.99,
|
||||
"repetition_penalty": 1,
|
||||
"repetition_penalty_range": 64,
|
||||
"repetition_penalty_slope": 1,
|
||||
"repetition_penalty_frequency": 0.75,
|
||||
"repetition_penalty_presence": 1.5,
|
||||
"phrase_rep_pen": "medium",
|
||||
"mirostat_lr": 1,
|
||||
"mirostat_tau": 1,
|
||||
"math1_temp": -0.4,
|
||||
"math1_quad": 0.6,
|
||||
"math1_quad_entropy_scale": -0.1,
|
||||
"min_p": 0.08,
|
||||
"order": [
|
||||
9,
|
||||
2
|
||||
]
|
||||
}
|
||||
@@ -16,10 +16,7 @@
|
||||
"use_cache": false,
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"cfg_scale": 1,
|
||||
"phrase_rep_pen": "very_light",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
@@ -14,10 +14,7 @@
|
||||
"use_cache": false,
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"cfg_scale": 1,
|
||||
"phrase_rep_pen": "off",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
@@ -1,5 +1,5 @@
|
||||
{
|
||||
"order": [0, 8, 5, 3],
|
||||
"order": [6, 0, 8, 5, 3],
|
||||
"temperature": 1.5,
|
||||
"max_length": 150,
|
||||
"min_length": 1,
|
||||
@@ -15,9 +15,6 @@
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"phrase_rep_pen": "very_aggressive",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"cfg_scale": 1.4,
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
@@ -16,10 +16,7 @@
|
||||
"use_cache": false,
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"cfg_scale": 1,
|
||||
"phrase_rep_pen": "very_light",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
@@ -16,10 +16,7 @@
|
||||
"use_cache": false,
|
||||
"return_full_text": false,
|
||||
"prefix": "vanilla",
|
||||
"cfg_scale": 1,
|
||||
"phrase_rep_pen": "very_light",
|
||||
"max_context": 7800,
|
||||
"min_p": 0,
|
||||
"math1_temp": 1,
|
||||
"math1_quad": 0,
|
||||
"math1_quad_entropy_scale": 0
|
||||
"max_context": 7800
|
||||
}
|
||||
|
||||
Some files were not shown because too many files have changed in this diff Show More
Reference in New Issue
Block a user