SillyTavern'da DeepSeek API Kullanımı: Özel Uç Nokta

Beş adımda kurulum

DeepSeek API'sinin SillyTavern'da nasıl kullanılacağı sorusu tek bir gerçeğe indirgenir: SillyTavern herhangi bir OpenAI-uyumlu uç noktaya bağlanabilir, bu nedenle yalnızca bir URL, bir anahtar ve bir model kimliği sağlarsınız. Bu hizmetin resmi DeepSeek API'si olmadığını unutmayın. Bağımsız bir sağlayıcı tarafından çalıştırılan ve yasal yetişkin kullanımı için içerik reddetmeleri olmadan yanıt verecek şekilde ayarlanmış uncensored kimlikli açık ağırlıklı bir modeli barındırır.

1. Bir hesap oluşturun ve API anahtarı sayfasını açın. Bir anahtar kopyalayın. Yeni kullanıcılar tek tıkla, kart gerekmeden 7 gün geçerli $0.50 deneme kredisi alabilir.
2. SillyTavern'da API Bağlantıları sekmesini açın (üst çubuktaki fiş simgesi).
3. API türünü Sohbet Tamamlama olarak ayarlayın. Ardından Sohbet Tamamlama Kaynağını Özel (OpenAI uyumlu) olarak ayarlayın.
4. Özel uç nokta alanına https://api.deepseekapi.top/v1 yazın. Anahtarınızı API anahtarı alanına yapıştırın. Model kimliği alanına uncensored yazın.
5. Bağlan'a basın. Yeşil durum ışığı ve bir model adı bağlantının çalıştığını gösterir.

Etiket adları SillyTavern sürümleri arasında biraz değişse de fikir aynı kalır: Sohbet Tamamlama modu, Özel kaynak, uç nokta, anahtar, model. Anahtarı API anahtarı sayfası adresinden alın.

Bağlantı başarısız olursa

Bunları sırayla kontrol edin. Çoğu hata bunlardan biridir.

• Yanlış URL biçimi. Uç nokta /v1 ile biter. /chat/completions eklemeyin.
• Yanlış kaynak. Metin Tamamlama modu farklı bir istek biçimi kullanır. Bu API POST /v1/chat/completions ve GET /v1/models sunar, bu nedenle Sohbet Tamamlama'yı kullanın.
• Anahtar boşluklarla yapıştırıldı. Tekrar yapıştırın ve son boşluk olup olmadığına bakın.
• Sunucu internete erişemiyor. SillyTavern'i ev sunucusunda veya bir kapsayıcıda çalıştırıyorsanız, makinenin çıkış HTTPS erişimine ihtiyacı vardır.

Bir SillyTavern sorununu bir anahtar sorunundan ayırmak için anahtarı bir terminalden test edin:

Copycurl https://api.deepseekapi.top/v1/models   -H "Authorization: Bearer YOUR_KEY" | grep uncensored

İçinde uncensored olan bir JSON listesi anahtarın iyi olduğunu gösterir. Sohbet rotasını kendisi kontrol etmek için:

Copycurl https://api.deepseekapi.top/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in one sentence."}]}'

Rol yapma için önemli ayarlar

Akış

Sohbet Tamamlama panelinde akışı açın. API, token'ları üretilirken SSE üzerinden gönderir, bu nedenle yanıtlar yazılırken görünür. Akışlı bir istek, akış bitene kadar eşzamanlılık yuvalarınızdan birini tutar. Tam bir anahtar aynı anda 8'e, deneme anahtarı 2'ye izin verir.

Bağlam boyutu

Modelin 100.000 token'lık bir penceresi vardır; hem istem hem de tamamlama buna dahildir. Bunu tamamen kullanmak zorunda değilsiniz. SillyTavern, her tek mesajda karakter kartını, kişiliği, lorebook girdilerini ve ayarladığınız sınıra sığan sohbet geçmişini gönderir. Daha küçük bir sınır, daha küçük bir fatura ve daha hızlı yanıtlar anlamına gelir. Çoğu sohbet için 16k ila 32k token yeterlidir.

Maksimum yanıt uzunluğu

Yanıt sınırını 400 ile 600 token gibi makul bir değere ayarlayın, böylece yanıt uzun bir kompozisyona dönüşemez. API max_tokens gerektirmez, ancak bir üst sınır kredilerinizi kontrolsüz çıktılardan korur.

Örnekleme

Sıcaklık, top_p, durma dizileri, tohum ve cezalar modele iletilir. Karakter sohbeti için yaygın bir başlangıç noktası sıcaklık 0.8 ila 1.0 ve top_p yaklaşık 0.9'dur. Bir değeri tek tek değiştirin. Bir karakter kalıpları tekrar ederse, sıcaklığı artırmak yerine sıklık veya varlık cezasını biraz artırın.

Durma dizileri

Model kullanıcı satırlarını da yazmaya başlarsa, bir durma dizisi olarak kullanıcının adını ve ardından iki nokta ekleyin. Bu iletilir.

İlk çalıştırma kontrol listesi

Favori karakterinizi yüklemeden önce bağlantının sağlıklı olduğundan emin olmak için kısa bir test sohbeti çalıştırın.

1. Boş bir karakter oluşturun veya varsayılan asistan kartını kullanın.
2. "Hazır kelimesiyle yanıt ver." Yanıt bir veya iki saniye içinde gelmeli ve üretilirken akış halinde görünmelidir.
3. Hiçbir şey görünmüyorsa SillyTavern konsolunu veya ağ günlüğünü açın. 401 anahtarın yanlış olduğunu, 404 URL'nin veya model kimliğinin yanlış olduğunu ve 429 bir sınırın vurulduğunu gösterir.
4. Bakiyenizi kontrol edin. Her yanıt X-Balance-USD başlığını içerir, böylece kredinin mesaj başına çok küçük bir miktar düşerek azaldığını doğrulayabilirsiniz.
5. Ancak o zaman gerçek karakter kartınızı ve lorebook'unuzu yükleyin.

Yanıt boş veya cümle ortasında kesilmişse, önce yanıt uzunluğu ayarına bakın. Çok düşük ayarlanan bir sınır, yanıtı erken sonlandırır ve yarım kalan cümle bir model hatası değildir.

Hazır ayarlar arasında geçiş

SillyTavern, örnekleme hazır ayarlarını bağlantı profilinden ayrı tutar. Daha yüksek bir sıcaklıkla anlatı yazma için bir hazır ayar ve daha düşük bir sıcaklıkla kısa gerçek yanıtlar için bir hazır ayar kaydetmeye değer. Hazır ayarı değiştirmek uç nokta veya anahtarı etkilemez.

Bir rol yapma oturumunun maliyeti nedir

Fiyat, ön ödemeli kredi üzerinden abonelik olmadan 1M giriş token'ı başına $0.15 ve 1M çıkış token'ı başına $0.50'dir. Geçmiş yeniden gönderildiği için, giriş maliyetin daha büyük kısmını oluşturur. Mesaj başına 20.000 token istem ve 400 token yanıt ile bir sohbet üzerinden ilerleyin:

• Giriş: 20.000 × $0,15 / 1.000.000 = $0,003
• Çıktı: 400 × $0,50 / 1.000.000 = $0,0002
• Toplam: Mesaj başına $0,0032

Bu nedenle 100 mesaj $0.32 tutarında olur. Şimdi aynı yanıtla kısaltılmış 8.000 token bağlam penceresini karşılaştırın: 8.000 × $0.15 / 1.000.000 = $0.0012, artı $0.0002, mesaj başına $0.0014 ve 100 adet için $0.14 eder. Bağlam penceresini kısaltmak, aynı sayıda tur için maliyetin yarısından azına mal olur.

$0.50 deneme, daha büyük boyutta yaklaşık 156 mesajı (0,50 / 0,0032 = 156,25) veya daha küçük boyutta yaklaşık 357 mesajı (0,50 / 0,0014 = 357,1) kapsar. Başarısız veya reddedilen istekler ücretlendirilmez ve kredi asla sona ermez. Bakiye yükleme miktarları, bonuslar ve ödeme yöntemleri için fiyatlandırma sayfası adresine bakın; kart (Visa, Mastercard, Apple Pay, Google Pay) ve kripto (TRC20 üzerinde USDT, Base üzerinde USDC) kabul edilir.

Karakterler, güvenlik ve tek zor kural

Model, yetişkinler için kurgu, rol yapma ve eşlik eden uygulamalar için ayarlanmıştır. Genel bir güvenlik filtresi değildir ve sizin için neyin uygun olduğunu o belirlemez. Bu sizin işinizdir: kartlarınızı ve sohbetlerinizi yasal yetişkin kullanımıyla sınırlı tutun.

Tek sabit sınır, reşit olmayanları içeren cinsel içeriğe izin verilmemesidir ve hiçbir istem bunu değiştirmez. Karakter yaşlarını kartlarınızda açıkça yetişkin olarak tutun.

Sohbetin kalitesine yardımcı olan birkaç pratik alışkanlık:

• Karakterin temel bilgilerini kartın en üstüne yerleştirin, sonuna gömmeyin.
• Anlatıcı tarzını ve yanıt uzunluğunu belirten kısa bir sistem istemi kullanın.
• Sohbetin eski kısımlarını sonsuza kadar taşımak yerine, SillyTavern'in özet özelliğini kullanarak özetleyin.
• Lorebook (evren bilgisi) girdilerini kısa tutun ve anahtar kelimelerle tetikleyin; böylece yalnızca gerektiğinde isteme dahil olsunlar.

İstemler eğitim için kullanılmaz. Kalan bakiyenizi gösteren X-Balance-USD başlığı da dahil olmak üzere yanıt başlıkları için hızlı başlangıç dokümantasyonuna bakın.

Bir karakteri eşlik eden uygulama arka ucu olarak kullanma

Bazı kişiler, yetişkinler için uzun süreli bir eşlik eden karakter için ön uç olarak SillyTavern kullanır. Herhangi bir sohbet için geçerli olan kurallar burada da geçerlidir. Karakteri tutarlı kılmak için onu kısa ve sabit bir blok olarak yazın; eski olayları özet özelliği halletsin. Oturumlar arasındaki uzun boşluklar hiçbir şeye mal olmaz, çünkü kredi süresi dolmaz ve abonelik yoktur.

Daha sonra SillyTavern kullanmak yerine kendi uygulamanızı yazarsanız, aynı uç noktaya kodunuzdan erişebilirsiniz. hızlı başlangıç dokümantasyonu, aynı temel URL ve model kimliği ile curl, Python ve Node örneklerini gösterir; böylece SillyTavern'de çalışan bir istemi doğrudan aktarabilirsiniz.

Yoğun bir sohbette hız limitleri

Tek bir sohbet sınırlara nadiren ulaşır. Grup sohbetleri, kaydırma işlemleri ve açık birden fazla sekme buna neden olabilir. Hizmet, dakika başına istek limitini (deneme anahtarında 60, tam anahtarında 300) geçtiğinizde rate_limited koduyla HTTP 429 yanıtı verir ve uç noktada çok fazla istek uçta olduğunda concurrency hatasını döndürür (deneme için 2, tam anahtar için 8).

Kısa süreli aşırı yüklenmelerde ayrıca Retry-After: 5 başlığıyla bir 429 yanıtı alırsınız. Beş saniye bekleyip tekrar göndermek doğru yanıttır. Bunları bir deneme anahtarında görürseniz, ekstra sekmeleri kapatın veya başka bir işlem başlatmadan önce kaydırma işlemini durdurun.

Daha fazla kılavuz

• Cursor'da DeepSeek API'sini Kullanma: Özel Base URL Kurulumu
• DeepSeek API Python Örneği: Sohbet, Akış, Araçlar
• DeepSeek API Anahtarı: Sansürsüz LLM API Erişimi