RU ▾
Получить API-ключ

Как использовать API DeepSeek в SillyTavern: пользовательский эндпоинт

SillyTavern может подключаться к любому API, совместимому с OpenAI, через режим Chat Completion с типом API Custom. Вот как использовать API в стиле DeepSeek в SillyTavern, с точными значениями для ввода и настройками, которые делают длинные ролевые чаты экономичнее.

Обновлено

Сцена со светящимися пузырями чата, связанными с терминалом, представляющая ролевую игру через API

Ключевые моменты

  • В SillyTavern выберите Подключения API, Chat Completion, затем тип API Custom (совместимый с OpenAI).
  • Введите https://api.deepseekapi.top/v1 в качестве эндпоинта и uncensored в качестве идентификатора модели.
  • В длинных чатах история отправляется заново на каждом шаге, поэтому лимит контекстного окна в 16–32k токенов позволяет снизить затраты.
  • Только для законного использования взрослыми; контент сексуального характера с участием несовершеннолетних всегда запрещен.

Настройка за пять шагов

Вопрос о том, как использовать API deepseek в sillytavern, сводится к одному факту: SillyTavern может работать с любым эндпоинтом, совместимым с OpenAI, поэтому вам нужно указать только URL, ключ и идентификатор модели. Обратите внимание, что этот сервис не является официальным API DeepSeek. Он предоставляет одну модель с открытыми весами с идентификатором uncensored, запущенную независимым провайдером и настроенную на ответы без отклонения контента для законного использования взрослыми.

  1. Создайте аккаунт и откройте страницу API-ключа. Скопируйте ключ. Новые пользователи могут одним кликом получить $0,50 бесплатного пробного баланса без привязки карты, срок действия — 7 дней.
  2. В SillyTavern откройте вкладку API Connections (значок плагина в верхней панели).
  3. Установите тип API в Chat Completion. Затем укажите Источник Chat Completion как Custom (OpenAI-compatible).
  4. В поле пользовательского эндпоинта введите https://api.deepseekapi.top/v1. Вставьте свой ключ в поле API-ключа. В поле идентификатора модели введите uncensored.
  5. Нажмите Подключиться. Зеленый индикатор статуса и имя модели означают, что соединение работает.

Названия полей немного меняются в разных версиях SillyTavern, но суть остается прежней: режим Chat Completion, тип API Custom, эндпоинт, ключ, модель. Получите ключ на странице API-ключ.

Если подключение не удалось

Проверьте их по порядку. Большинство сбоев вызваны одной из этих причин.

  • Неверная форма URL. Эндпоинт заканчивается на /v1. Не добавляйте /chat/completions.
  • Неверный источник. Режим Text Completion использует другой формат запроса. Этот API обслуживает POST /v1/chat/completions и GET /v1/models, поэтому используйте Chat Completion.
  • Ключ скопирован с пробелами. Вставьте его снова и поищите пробел в конце.
  • Сервер не имеет доступа к интернету. Если вы запускаете SillyTavern на домашнем сервере или в контейнере, машине нужен исходящий доступ по HTTPS.

Чтобы отделить проблему SillyTavern от проблемы с ключом, проверьте ключ из терминала:

curl https://api.deepseekapi.top/v1/models   -H "Authorization: Bearer YOUR_KEY" | grep uncensored

Список JSON с uncensored внутри означает, что ключ в порядке. Чтобы проверить маршрут чата:

curl https://api.deepseekapi.top/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in one sentence."}]}'

Настройки, важные для ролевой игры

Потоковая передача

Включите потоковую передачу в панели Chat Completion. API отправляет токены через SSE по мере их генерации, поэтому ответы появляются по мере написания. Потоковый запрос занимает один из ваших слотов параллельных запросов до завершения потока. Полный ключ позволяет 8 одновременно, пробный ключ — 2.

Размер контекста

У модели 100 000-токенное контекстное окно, включая промпт и завершение. Вам не нужно использовать его полностью. SillyTavern отправляет карточку персонажа, персону, записи из книги лора и столько истории чата, сколько помещается в установленный вами лимит, при каждом сообщении. Меньший лимит означает меньший счет и более быстрые ответы. Для большинства чатов 16k–32k токенов более чем достаточно.

Максимальная длина ответа

Установите лимит ответа на разумное значение, например 400–600 токенов, чтобы ответ не превращался в эссе. API не требует max_tokens, но ограничение защищает ваш предоплаченный баланс от неконтролируемо длинных ответов.

Сэмплирование

Температура, top_p, стоп-последовательности, seed и штрафы передаются модели. Обычная начальная точка для чата с персонажем — температура 0,8–1,0 и top_p около 0.9. Изменяйте одно значение за раз. Если персонаж повторяет фразы, немного повысьте штраф за частоту или присутствие, а не температуру.

Стоп-последовательности

Если модель начинает писать реплики пользователя, добавьте имя пользователя, за которым следует двоеточие, в качестве стоп-последовательности. Это передается как есть.

Чек-лист для первого запуска

Прежде чем загрузить любимого персонажа, запустите короткий тестовый чат, чтобы убедиться, что соединение в порядке.

  1. Создайте пустого персонажа или используйте карточку помощника по умолчанию.
  2. Отправьте «Ответь одним словом: ready.» Ответ должен прийти через секунду-две и поступит потоком по мере генерации.
  3. Откройте консоль SillyTavern или журнал сети, если ничего не появляется. 401 означает, что ключ неверен, 404 означает, что URL или идентификатор модели неверны, а 429 означает, что достигнут лимит.
  4. Проверьте свой баланс. Каждый ответ включает заголовок X-Balance-USD, поэтому вы можете убедиться, что баланс уменьшается на крошечную сумму за сообщение.
  5. Только тогда загружайте свою настоящую карточку персонажа и книгу лора.

Если ответ пустой или обрезан посреди предложения, сначала посмотрите на настройку длины ответа. Слишком низкий лимит завершает ответ рано, и незавершенное предложение — не вина модели.

Переключение между пресетами

SillyTavern хранит пресеты сэмплирования отдельно от профиля подключения. Стоит сохранить один пресет для повествовательного письма с более высокой температурой и один для коротких фактических ответов с более низкой. Переключение пресета не затрагивает эндпоинт или ключ.

Сколько стоит сессия ролевой игры

Цена составляет $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов из предоплаченного баланса без подписки. Поскольку история пересылается, входные данные — большая часть. Пройдите чат с промптом в 20 000 токенов на сообщение и ответом в 400 токенов:

  • Вход: 20 000 × $0,15 / 1 000 000 = $0,003
  • Выход: 400 × $0,50 / 1 000 000 = $0,0002
  • Итого: $0,0032 за сообщение

Итак, 100 сообщений стоят $0,32. Теперь сравните обрезанный контекст из 8 000 токенов с тем же ответом: 8 000 × $0,15 / 1 000 000 = $0,0012, плюс $0,0002, итого $0,0014 за сообщение и $0,14 за 100. Обрезка контекста стоит меньше половины за то же количество ходов.

Пробный баланс $0,50 покрывает около 156 сообщений при большом размере (0,50 / 0,0032 = 156,25) или около 357 при меньшем размере (0,50 / 0,0014 = 357,1). Неудавшиеся или отклонённые запросы не оплачиваются, и баланс не сгорает. См. страницу цен для сумм пополнения, бонусов и способов оплаты; принимаются карты (Visa, Mastercard, Apple Pay, Google Pay) и криптовалюта (USDT в сети TRC20, USDC в сети Base).

Персонажи, безопасность и одно жесткое правило

Модель настроена на художественную литературу, ролевую игру и приложения-компаньоны для взрослых. Это не общий фильтр безопасности, и она не решает, что подходит вам. Это ваша работа: держите ваши карточки и чаты в рамках законного использования взрослыми.

Единственный фиксированный лимит — что контент сексуального характера с участием несовершеннолетних запрещен, и ни один промпт это не изменит. Держите возраст персонажей явно взрослым в ваших карточках.

Несколько практических привычек помогают качеству чата:

  • Размещайте ключевые факты о персонаже в верхней части карточки, а не прячьте их в конце.
  • Используйте короткий системный промпт, который задаёт стиль рассказчика и длину ответов.
  • Суммируйте старые части чата с помощью функции суммаризации SillyTavern, чтобы не хранить их вечно.
  • Держите записи в книге лора короткими и настраивайте их срабатывание по ключевым словам, чтобы они добавлялись в промпт только при необходимости.

Промпты не используются для обучения. Ознакомьтесь с документацией быстрого старта, чтобы узнать о заголовках ответа, включая X-Balance-USD, который показывает ваш оставшийся баланс.

Использование персонажа в качестве бэкенда для приложения-компаньона

Некоторые используют SillyTavern в качестве фронтенда для долгоживущего персонажа-компаньона для взрослых. К нему применяются те же правила, что и к любому чату. Поддерживайте согласованность образа, записывая его как короткий фиксированный блок, а за старые события пусть отвечает функция суммаризации. Длинные перерывы между сессиями ничего не стоят, потому что баланс не сгорает и нет подписки.

Если позже вы создадите собственное приложение вместо использования SillyTavern, вы сможете вызывать тот же эндпоинт из кода. В документации быстрого старта приведены примеры с curl, Python и Node.js с тем же базовым URL и ID модели, поэтому промпт, работающий в SillyTavern, можно перенести напрямую.

Лимиты запросов в активном чате

Один чат редко достигает лимитов. Групповые чаты, свайпы и несколько открытых вкладок — могут. Сервис возвращает HTTP 429 с кодом rate_limited, когда вы превышаете лимит запросов в минуту (60 для пробного ключа, 300 для полного ключа), и concurrency, когда в полёте находится слишком много запросов (2 для пробного, 8 для полного).

При кратковременной перегрузке вы также получаете 429 с заголовком Retry-After: 5. Правильная реакция — подождать пять секунд и отправить запрос снова. Если вы видите это на пробном ключе, закройте лишние вкладки или остановите свайп перед началом следующего.

Вопросы и ответы

Это официальный API DeepSeek?

Нет. Это независимый OpenAI-совместимый сервис, работающий на одной модели с открытыми весами с ID uncensored. Это не официальный API DeepSeek или любого другого поставщика.

Какой тип API SillyTavern выбрать?

Выберите Chat Completion и источник Custom (OpenAI-compatible). Сервис использует формат chat completions, а не text completion.

Что вводить в поле ID модели?

Введите uncensored строчными буквами. Вы можете подтвердить это, вызвав GET /v1/models с вашим ключом.

Как снизить расходы на ролевую игру?

Уменьшите размер контекстного окна, так как история отправляется снова с каждым сообщением. Ограничение длины ответа также помогает.

До вашего ключа — всего одна форма

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.

Получить API-ключ