Cara Menggunakan API DeepSeek di SillyTavern: Endpoint Kustom

Pengaturan dalam lima langkah

Pertanyaan tentang cara menggunakan API DeepSeek di SillyTavern berujung pada satu fakta: SillyTavern dapat terhubung ke endpoint apa pun yang kompatibel dengan OpenAI, sehingga Anda hanya perlu menyediakan URL, kunci, dan ID model. Perhatikan bahwa layanan ini bukan API DeepSeek resmi. Layanan ini menjalankan satu model bobot terbuka dengan ID uncensored, yang dikelola oleh penyedia independen dan disesuaikan untuk memberikan jawaban tanpa penolakan konten untuk penggunaan dewasa yang sah.

1. Buat akun dan buka halaman kunci API. Salin kunci. Pengguna baru dapat mengklaim $0.50 kredit uji coba gratis di sana dengan satu klik, tanpa kartu, berlaku selama 7 hari.
2. Di SillyTavern, buka tab Koneksi API (ikon steker di bilah atas).
3. Atur jenis API menjadi Chat Completion. Kemudian atur Sumber Chat Completion menjadi Kustom (kompatibel OpenAI).
4. Di bidang endpoint kustom masukkan https://api.deepseekapi.top/v1. Tempel kunci Anda ke bidang kunci API. Di bidang ID model masukkan uncensored.
5. Tekan Connect. Lampu status hijau dan nama model berarti koneksi berhasil.

Nama label berubah sedikit antar rilis SillyTavern, tetapi idenya tetap sama: mode Chat Completion, sumber Kustom, endpoint, kunci, model. Dapatkan kunci dari halaman kunci API.

Jika Koneksi gagal

Periksa ini secara berurutan. Sebagian besar kegagalan adalah salah satu dari mereka.

• Bentuk URL salah. Endpoint berakhir dengan /v1. Jangan tambahkan /chat/completions.
• Sumber salah. Mode Text Completion menggunakan format permintaan berbeda. API ini melayani POST /v1/chat/completions dan GET /v1/models, jadi gunakan Chat Completion.
• Kunci ditempelkan dengan spasi. Tempelkan lagi dan periksa spasi di akhir.
• Server tidak dapat mencapai internet. Jika Anda menjalankan SillyTavern di server rumah atau dalam wadah, mesin tersebut memerlukan akses HTTPS keluar.

Untuk memisahkan masalah SillyTavern dari masalah kunci, uji kunci dari terminal:

Copycurl https://api.deepseekapi.top/v1/models   -H "Authorization: Bearer YOUR_KEY" | grep uncensored

Daftar JSON dengan uncensored di dalamnya berarti kunci tersebut baik. Untuk memeriksa rute obrolan itu sendiri:

Copycurl https://api.deepseekapi.top/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in one sentence."}]}'

Pengaturan yang penting untuk roleplay

Streaming

Aktifkan streaming di panel Chat Completion. API mengirim token melalui SSE saat token dihasilkan, sehingga balasan muncul saat ditulis. Permintaan streaming memegang salah satu slot konkurensi Anda hingga stream berakhir. Kunci penuh memungkinkan 8 sekaligus, kunci uji coba memungkinkan 2.

Ukuran konteks

Model memiliki jendela konteks 100.000 token, untuk prompt dan penyelesaian. Anda tidak harus menggunakannya semua. SillyTavern mengirim kartu karakter, persona, entri buku lore, dan sebanyak mungkin riwayat obrolan yang sesuai dengan batas yang Anda tetapkan, pada setiap pesan. Batas yang lebih kecil berarti tagihan yang lebih kecil dan balasan yang lebih cepat. Untuk sebagian besar obrolan, 16k hingga 32k token sudah cukup.

Panjang respons maksimum

Atur batas respons menjadi sesuatu yang wajar, seperti 400 hingga 600 token, agar balasan tidak berubah menjadi esai. API tidak memerlukan max_tokens, tetapi batas melindungi saldo prabayar Anda dari output yang tidak terkendali.

Sampling

Suhu, top_p, urutan berhenti, seed, dan penalti diteruskan ke model. Titik awal umum untuk obrolan karakter adalah suhu 0,8 hingga 1,0 dan top_p sekitar 0,9. Ubah satu nilai pada satu waktu. Jika karakter mengulang frasa, tingkatkan penalti frekuensi atau kehadiran sedikit daripada suhu.

Urutan berhenti

Jika model mulai menulis baris pengguna juga, tambahkan nama pengguna diikuti dengan titik dua sebagai urutan berhenti. Ini diteruskan.

Daftar periksa awal

Sebelum memuat karakter favorit, jalankan obrolan uji singkat agar Anda tahu koneksi sehat.

1. Buat karakter kosong atau gunakan kartu asisten default.
2. Kirim "Balas dengan kata siap." Jawaban harus kembali dalam satu atau dua detik dan streaming saat dihasilkan.
3. Buka konsol SillyTavern atau log jaringan jika tidak ada yang muncul. 401 berarti kunci salah, 404 berarti URL atau ID model salah, dan 429 berarti batas terlampaui.
4. Periksa saldo Anda. Setiap respons menyertakan header X-Balance-USD, sehingga Anda dapat memverifikasi saldo prabayar turun sedikit per pesan.
5. Baru kemudian muat kartu karakter dan buku lore asli Anda.

Jika balasan kosong atau terpotong di tengah kalimat, periksa pengaturan panjang respons terlebih dahulu. Batas yang ditetapkan terlalu rendah mengakhiri balasan lebih awal, dan kalimat yang belum selesai bukan kesalahan model.

Berpindah antara preset

SillyTavern menyimpan preset sampling terpisah dari profil koneksi. Ada baiknya menyimpan satu preset untuk penulisan naratif, dengan suhu lebih tinggi, dan satu untuk balasan faktual pendek, dengan suhu lebih rendah. Mengganti preset tidak menyentuh endpoint atau kunci.

Berapa biaya sesi roleplay

Harganya adalah $0,15 per 1 juta token input dan $0,50 per 1 juta token output, yang diambil dari saldo prabayar tanpa langganan. Karena riwayat dikirim ulang, input menjadi bagian yang lebih besar. Jalankan obrolan dengan prompt 20.000 token per pesan dan balasan 400 token:

• Input: 20.000 × $0,15 / 1.000.000 = $0,003
• Output: 400 × $0,50 / 1.000.000 = $0,0002
• Total: $0,0032 per pesan

Jadi 100 pesan berbiaya $0,32. Sekarang bandingkan konteks yang dipangkas 8.000 token dengan balasan yang sama: 8.000 × $0,15 / 1.000.000 = $0,0012, ditambah $0,0002, menjadi $0,0014 per pesan dan $0,14 per 100. Memangkas konteks berbiaya kurang dari setengahnya untuk jumlah putaran yang sama.

Uji coba $0,50 mencakup sekitar 156 pesan pada ukuran yang lebih besar (0,50 / 0,0032 = 156,25) atau sekitar 357 pada ukuran yang lebih kecil (0,50 / 0,0014 = 357,1). Permintaan yang gagal atau ditolak tidak dikenakan biaya, dan saldo prabayar tidak pernah habis. Lihat halaman harga untuk jumlah isi saldo, bonus, dan metode pembayaran; kartu (Visa, Mastercard, Apple Pay, Google Pay) dan kripto (USDT di TRC20, USDC di Base) keduanya diterima.

Karakter, keamanan, dan satu aturan ketat

Model disesuaikan untuk fiksi, roleplay, dan aplikasi pendamping untuk dewasa. Ini bukan filter keamanan umum, dan tidak memutuskan apa yang cocok untuk Anda. Itu tugas Anda: jaga kartu dan obrolan Anda untuk penggunaan dewasa yang sah.

Batas tetap tunggal adalah bahwa konten seksual yang melibatkan anak di bawah umur tidak diizinkan, dan tidak ada prompt yang mengubahnya. Jaga usia karakter jelas dewasa di kartu Anda.

Beberapa kebiasaan praktis membantu kualitas obrolan:

• Letakkan fakta utama tentang karakter di bagian atas kartu, bukan tersembunyi di akhir.
• Gunakan prompt sistem singkat yang mengatur gaya narator dan panjang balasan.
• Ringkas bagian lama dari obrolan dengan fitur ringkasan SillyTavern, daripada menyimpannya selamanya.
• Jaga entri buku lore tetap singkat dan dipicu oleh kata kunci agar hanya masuk ke prompt saat diperlukan.

Prompt tidak digunakan untuk pelatihan. Baca dokumen quickstart untuk header respons, termasuk X-Balance-USD, yang menunjukkan sisa saldo Anda.

Menggunakan karakter sebagai backend aplikasi pendamping

Beberapa orang menggunakan SillyTavern sebagai antarmuka depan untuk karakter pendamping jangka panjang untuk dewasa. Aturan yang sama berlaku seperti untuk obrolan apa pun. Pertahankan persona agar konsisten dengan menulisnya sebagai blok tetap singkat, dan biarkan fitur ringkasan menangani peristiwa lama. Jeda panjang antar sesi tidak memakan biaya, karena saldo tidak pernah habis dan tidak ada langganan.

Jika nanti Anda membuat aplikasi sendiri alih-alih menggunakan SillyTavern, Anda dapat memanggil endpoint yang sama dari kode. dokumen quickstart menunjukkan contoh curl, Python, dan Node dengan URL dasar dan ID model yang sama, sehingga prompt yang berfungsi di SillyTavern dapat dipindahkan langsung.

Batas laju dalam obrolan ramai

Satu obrolan jarang mencapai batas. Obrolan grup, swipe, dan beberapa tab terbuka dapat. Layanan menjawab HTTP 429 dengan kode rate_limited saat Anda melewati batas permintaan per menit (60 pada kunci uji coba, 300 pada kunci penuh) dan concurrency saat terlalu banyak permintaan yang sedang berjalan (2 pada uji coba, 8 pada penuh).

Pada kelebihan beban singkat, Anda juga mendapatkan 429 dengan header Retry-After: 5. Menunggu lima detik dan mengirim lagi adalah respons yang tepat. Jika Anda melihat ini pada kunci uji coba, tutup tab tambahan atau hentikan swipe sebelum memulai yang lain.

Panduan lainnya

• Cara Menggunakan API DeepSeek di Cursor: Pengaturan URL Dasar Kustom
• Contoh API DeepSeek Python: Chat, Streaming, Alat
• Kunci API DeepSeek: Akses API LLM Tanpa Sensor