วิธีใช้ DeepSeek API ใน SillyTavern: Custom Endpoint: Custom Endpoint SillyTavern

ตั้งค่าในห้าขั้นตอน

คำถามเกี่ยวกับวิธีใช้ deepseek api sillytavern สรุปเป็นข้อเท็จจริงเดียวคือ SillyTavern สามารถเชื่อมต่อเอนด์พอยต์ที่เข้ากันได้กับ OpenAI ใดๆ ได้ ดังนั้นคุณจึงเพียงระบุ URL คีย์ และ model ID หมายเหตุว่าบริการนี้ไม่ใช่ API ทางการของ DeepSeek แต่โฮสต์โมเดล open-weight model เพียงตัวเดียวที่มี ID คือ uncensored โดยผู้ให้บริการอิสระที่ปรับแต่งให้ตอบโดยไม่ปฏิเสธเนื้อหา สำหรับการใช้งานผู้ใหญ่ตามกฎหมาย

1. สร้างบัญชีและเปิดหน้าคีย์ API คัดลอกคีย์ ผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ฟรี $0.50 ได้ในคลิกเดียว ไม่ต้องใช้บัตร ใช้ได้เป็นเวลา 7 วัน
2. ใน SillyTavern ให้เปิดแท็บ API Connections (ไอคอนปลั๊กในแถบด้านบน)
3. ตั้งค่าประเภท API เป็น Chat Completion จากนั้นตั้งค่าแหล่งข้อมูล Chat Completion เป็น Custom (เข้ากันได้กับ OpenAI)
4. ในช่อง endpoint แบบกำหนดเอง ให้กรอก https://api.deepseekapi.top/v1 วางคีย์ของคุณลงในช่อง API key ในช่อง model ID ให้กรอก uncensored
5. กด Connect ไฟสถานะสีเขียวและชื่อโมเดลหมายถึงการเชื่อมต่อใช้งานได้

ชื่อป้ายเปลี่ยนไปเล็กน้อยระหว่างเวอร์ชันของ SillyTavern แต่แนวคิดยังคงเดิม: โหมด Chat Completion, แหล่งข้อมูลแบบกำหนดเอง, endpoint, คีย์, โมเดล รับคีย์จาก หน้าคีย์ API

หาก Connect ล้มเหลว

ตรวจสอบสิ่งเหล่านี้ตามลำดับ ความล้มเหลวส่วนใหญ่เกิดจากสาเหตุใดสาเหตุหนึ่งเหล่านี้

• รูปแบบ URL ผิด endpoint ต้องลงท้ายด้วย /v1 อย่าเพิ่ม /chat/completions
• แหล่งข้อมูลผิด โหมด Text Completion ใช้รูปแบบคำขอที่แตกต่าง API นี้ให้บริการ POST /v1/chat/completions และ GET /v1/models ดังนั้นให้ใช้ Chat Completion
• วางคีย์พร้อมช่องว่าง วางอีกครั้งและตรวจสอบช่องว่างท้าย
• เซิร์ฟเวอร์ไม่สามารถเข้าถึงอินเทอร์เน็ตได้ หากคุณรัน SillyTavern บนเซิร์ฟเวอร์ที่บ้านหรือในคอนเทนเนอร์ เครื่องนั้นต้องมีการเข้าถึง HTTPS แบบ outbound

เพื่อแยกปัญหาของ SillyTavern ออกจากปัญหาของคีย์ ให้ทดสอบคีย์จากเทอร์มินัล:

Copycurl https://api.deepseekapi.top/v1/models   -H "Authorization: Bearer YOUR_KEY" | grep uncensored

รายการ JSON ที่มี uncensored หมายความว่าคีย์ถูกต้อง เพื่อตรวจสอบเส้นทางแชทเอง:

Copycurl https://api.deepseekapi.top/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in one sentence."}]}'

การตั้งค่าที่สำคัญสำหรับการเล่นบทบาทสมมติ

สตรีมมิง

เปิดสตรีมมิงในแผง Chat Completion API ส่งโทเคนผ่าน SSE เมื่อโทเคนถูกสร้างขึ้น ดังนั้นคำตอบจะปรากฏขณะกำลังเขียน คำขอแบบสตรีมจะครอบครองช่อง concurrency (การทำงานพร้อมกัน)ของคุณจนกว่าสตรีมจะสิ้นสุด คีย์แบบเต็มอนุญาตได้ 8 ช่องพร้อมกัน คีย์ทดลองอนุญาตได้ 2 ช่อง

ขนาดบริบท

โมเดลมีหน้าต่างบริบทขนาด 100,000 โทเคน รวมพรอมต์และการสร้างข้อความ คุณไม่จำเป็นต้องใช้ทั้งหมด SillyTavern จะส่งการ์ดตัวละคร บุคลิก บันทึกลอเรบุ๊ก และประวัติแชทเท่าที่อยู่ในขีดจำกัดที่คุณตั้งไว้ ในทุกข้อความ การจำกัดที่เล็กลงหมายถึงบิลที่น้อยกว่าและคำตอบที่เร็วขึ้น สำหรับการแชทส่วนใหญ่ 16k ถึง 32k โทเคนก็เพียงพอแล้ว

ความยาวคำตอบสูงสุด

ตั้งค่าขีดจำกัด response ให้เหมาะสม เช่น 400 ถึง 600 โทเคน เพื่อป้องกันไม่ให้การตอบยาวเกินไปเป็นบทความ API ไม่จำเป็นต้องใช้ max_tokens แต่การจำกัดจำนวนช่วยป้องกันเครดิตของคุณจากการใช้งานที่เกินควบคุม

การสุ่มตัวอย่าง

Temperature, top_p, stop sequences, seed และค่าปรับจะถูกส่งผ่านไปยังโมเดล จุดเริ่มต้นทั่วไปสำหรับการแชทตัวละครคือ temperature 0.8 ถึง 1.0 และ top_p ประมาณ 0.9 เปลี่ยนค่าทีละค่า หากตัวละครทำซ้ำคำพูด ให้เพิ่มค่าปรับความถี่หรือการปรากฏตัวเล็กน้อย แทนที่จะเพิ่ม temperature

stop sequences

หากโมเดลเริ่มเขียนบรรทัดของผู้ใช้ด้วย ให้เพิ่มชื่อผู้ใช้ตามด้วยเครื่องหมายทวิภาค (:)เป็น stop sequence สิ่งนี้จะถูกส่งต่อไป

รายการตรวจสอบสำหรับการใช้งานครั้งแรก

ก่อนโหลดตัวละครที่คุณชื่นชอบ ให้ทดสอบแชทสั้นๆ เพื่อให้แน่ใจว่าการเชื่อมต่อทำงานได้ปกติ

1. สร้างตัวละครใหม่หรือใช้การ์ดผู้ช่วยเริ่มต้น
2. ส่ง "ตอบกลับด้วยคำว่า ready" คำตอบควรกลับมาภายในหนึ่งหรือสองวินาทีและสตรีมมิงเมื่อผลิตออกมา
3. เปิดคอนโซล SillyTavern หรือบันทึกเครือข่ายหากไม่มีอะไรปรากฏ 401 หมายถึงคีย์ผิด, 404 หมายถึง URL หรือ model ID ผิด, และ 429 หมายถึงเกินขีดจำกัด
4. ตรวจสอบยอดเงินของคุณ แต่ละ response รวม header X-Balance-USD ไว้ ดังนั้นคุณสามารถตรวจสอบได้ว่าเครดิตลดลงเล็กน้อยต่อข้อความ
5. จากนั้นจึงโหลดการ์ดตัวละครและหนังสือ lorebook จริงของคุณ

หากคำตอบว่างเปล่าหรือขาดกลางประโยค ให้ตรวจสอบการตั้งค่าความยาวของการตอบกลับก่อน ขีดจำกัดที่ตั้งต่ำเกินไปจะทำให้การตอบกลับสิ้นสุดก่อน และประโยคที่ไม่สมบูรณ์ไม่ใช่ความผิดของโมเดล

การเปลี่ยนระหว่างพรีเซ็ต

SillyTavern เก็บพรีเซ็ตการสุ่มตัวอย่างแยกจากโปรไฟล์การเชื่อมต่อ การบันทึกพรีเซ็ตหนึ่งสำหรับการเขียนนวนิยายด้วยอุณหภูมิที่สูงกว่า และอีกอันสำหรับการตอบกลับข้อเท็จจริงสั้นๆ ด้วยอุณหภูมิต่ำกว่านั้นคุ้มค่า การเปลี่ยนพรีเซ็ตไม่กระทบต่อเอนด์พอยต์หรือคีย์

ต้นทุนของเซสชันการเล่นบทบาท

ราคาคือ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens จากเครดิตแบบเติมเงินล่วงหน้าโดยไม่ต้องสมัครสมาชิก เนื่องจากประวัติจะถูกส่งใหม่ input จึงเป็นส่วนใหญ่ ลองทำงานผ่านแชทด้วยพรอมต์ขนาด 20,000 โทเคนต่อข้อความและการตอบกลับขนาด 400 โทเคน:

• อินพุต: 20,000 × $0.15 / 1,000,000 = $0.003
• เอาต์พุต: 400 × $0.50 / 1,000,000 = $0.0002
• รวม: $0.0032 ต่อข้อความ

ดังนั้น 100 ข้อความมีค่าใช้จ่าย $0.32 ตอนนี้เปรียบเทียบบริบทที่ตัดแต่งแล้วขนาด 8,000 โทเคนกับคำตอบเดียวกัน: 8,000 × $0.15 / 1,000,000 = $0.0012 บวก $0.0002 ทำให้เป็น $0.0014 ต่อข้อความและ $0.14 ต่อ 100 การตัดบริบทมีต้นทุนน้อยกว่าครึ่งสำหรับจำนวนรอบเดียวกัน

เครดิตทดลอง $0.50 ครอบคลุมประมาณ 156 ข้อความที่ขนาดใหญ่ (0.50 / 0.0032 = 156.25) หรือประมาณ 357 ที่ขนาดเล็กลง (0.50 / 0.0014 = 357.1) คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน และเครดิตไม่หมดอายุ ดู หน้าราคา สำหรับจำนวนเติมเงิน โบนัส และวิธีการชำระเงิน; บัตร (Visa, Mastercard, Apple Pay, Google Pay) และคริปโต (USDT บน TRC20, USDC บน Base) ยอมรับทั้งสองวิธี

ตัวละคร ความปลอดภัย และกฎข้อเดียว

โมเดลได้รับการปรับแต่งสำหรับนวนิยาย บทบาทสมมติ และแอปเพื่อนสำหรับผู้ใหญ่ ไม่ใช่ตัวกรองความปลอดภัยทั่วไป และไม่ได้ตัดสินใจว่าสิ่งใดเหมาะสมสำหรับคุณ นั่นคือหน้าที่ของคุณ: เก็บการ์ดและการแชทของคุณให้เป็นการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย

ขีดจำกัดคงที่เพียงอย่างเดียวคือเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ไม่ได้รับอนุญาต และไม่มีพรอมต์ใดเปลี่ยนสิ่งนั้นได้ เก็บอายุตัวละครเป็นผู้ใหญ่ชัดเจนในการ์ดของคุณ

นิสัยปฏิบัติบางอย่างช่วยคุณภาพของการแชท:

• ใส่ข้อเท็จจริงสำคัญเกี่ยวกับตัวละครไว้ที่ด้านบนของการ์ด ไม่ใช่ซ่อนไว้ที่ท้าย
• ใช้พรอมต์ระบบสั้นๆ ที่กำหนดสไตล์ของผู้บรรยายและความยาวของการตอบกลับ
• สรุปส่วนเก่าของการแชทด้วยฟีเจอร์สรุปของ SillyTavern แทนที่จะเก็บไว้ตลอดไป
• รักษาบันทึกลอเรบุ๊กให้สั้นและถูกกระตุ้นโดยคีย์เวิร์ด เพื่อให้เข้าสู่พรอมต์เฉพาะเมื่อจำเป็น

พรอมต์ไม่ถูกใช้ในการฝึกโมเดล อ่าน คู่มือเริ่มต้นอย่างรวดเร็ว สำหรับ response headers รวมถึง X-Balance-USD ซึ่งแสดงยอดคงเหลือของคุณ

การใช้ตัวละครเป็นแบ็กเอนด์สำหรับแอป companion

บางคนใช้ SillyTavern เป็นฟรอนต์เอนด์สำหรับตัวละคร companion สำหรับผู้ใหญ่ที่ทำงานต่อเนื่อง กฎเดียวกันใช้กับการแชททั่วไป รักษาบุคลิกให้สอดคล้องกันโดยเขียนเป็นบล็อกข้อความสั้นๆ และให้ฟีเจอร์สรุปจัดการเหตุการณ์เก่า ช่วงเวลาว่างระหว่างเซสชันไม่เสียค่าใช้จ่าย เพราะเครดิตไม่หมดอายุและไม่มีค่าสมาชิก

หากคุณสร้างแอปพลิเคชันของคุณเองในภายหลังแทนที่จะใช้ SillyTavern คุณสามารถเรียกใช้เอนด์พอยต์เดียวกันจากโค้ดได้ คู่มือ เริ่มต้นอย่างรวดเร็ว แสดงตัวอย่าง curl, Python และ Node ด้วย base URL และ model ID เดียวกัน ดังนั้นพรอมต์ที่ทำงานใน SillyTavern จึงสามารถย้ายไปใช้โดยตรงได้

ขีดจำกัดอัตราในการแชทที่แออัด

แชทเดียวมักไม่ถึงขีดจำกัด แชทกลุ่ม การ swipe และแท็บที่เปิดหลายแท็บสามารถทำได้ บริการตอบกลับ HTTP 429 ด้วยโค้ด rate_limited เมื่อคุณเกินขีดจำกัดคำขอต่อนาที (60 บนคีย์ทดลอง, 300 บนคีย์เต็ม) และ concurrency เมื่อคำขอมากเกินไปที่กำลังดำเนินการ (2 บนคีย์ทดลอง, 8 บนคีย์เต็ม)

เมื่อเกินโหลดเล็กน้อยคุณยังได้รับ 429 พร้อม header Retry-After: 5 การรอห้าวินาทีแล้วส่งอีกครั้งเป็นการตอบสนองที่ถูกต้อง หากคุณเห็นสิ่งเหล่านี้บนคีย์ทดลอง ให้ปิดแท็บเพิ่มเติมหรือหยุดการ swipeก่อนเริ่มอันอื่น

คู่มือเพิ่มเติม

• วิธีใช้ DeepSeek API ใน SillyTavern: Custom Endpoint: Custom Endpoint Cursor: การตั้งค่า Base URL แบบกำหนดเอง
• ตัวอย่าง Python ของ API DeepSeek: แชท สตรีมมิง เครื่องมือ
• คีย์ API ของ DeepSeek: เข้าถึง API LLM แบบไม่เซ็นเซอร์