Cách dùng API DeepSeek trong SillyTavern: Endpoint tùy chỉnh

Thiết lập trong năm bước

Vấn đề về cách sử dụng API DeepSeek với SillyTavern quy về một sự thật: SillyTavern có thể kết nối với bất kỳ endpoint nào tương thích OpenAI, vì vậy bạn chỉ cần cung cấp URL, khóa API và ID mô hình. Lưu ý rằng dịch vụ này không phải là API DeepSeek chính thức. Nó lưu trữ một mô hình trọng số mở với ID uncensored, do một nhà cung cấp độc lập vận hành và được tinh chỉnh để trả lời mà không từ chối nội dung, phù hợp cho người trưởng thành sử dụng hợp pháp.

1. Tạo tài khoản và mở trang khóa API. Sao chép một khóa. Người dùng mới có thể nhận $0.50 tín dụng dùng thử chỉ với một cú nhấp chuột, không cần thẻ, có hiệu lực trong 7 ngày.
2. Trong SillyTavern, mở tab API Connections (biểu tượng phích cắm trên thanh công cụ).
3. Đặt loại API thành Chat Completion. Sau đó đặt Nguồn Chat Completion thành Custom (OpenAI-compatible).
4. Trong trường endpoint tùy chỉnh, nhập https://api.deepseekapi.top/v1. Dán khóa của bạn vào trường API key. Trong trường model ID, nhập uncensored.
5. Nhấn Connect. Đèn trạng thái màu xanh lá và tên mô hình cho thấy liên kết hoạt động.

Tên nhãn thay đổi nhẹ giữa các phiên bản SillyTavern, nhưng ý tưởng vẫn giữ nguyên: chế độ Chat Completion, nguồn Custom, endpoint, key, model. Lấy khóa từ trang khóa API.

Nếu kết nối thất bại

Kiểm tra các mục theo thứ tự này. Hầu hết các lỗi là do một trong những nguyên nhân này.

• Sai định dạng URL. Endpoint kết thúc bằng /v1. Không thêm /chat/completions.
• Sai nguồn. Chế độ Text Completion sử dụng định dạng yêu cầu khác. API này phục vụ POST /v1/chat/completions và GET /v1/models, vì vậy hãy dùng Chat Completion.
• Khóa dán có khoảng trắng. Dán lại và kiểm tra xem có khoảng trắng thừa ở cuối không.
• Máy chủ không thể truy cập internet. Nếu bạn chạy SillyTavern trên máy chủ gia đình hoặc trong container, máy cần quyền truy cập HTTPS ra ngoài.

Để phân biệt lỗi SillyTavern với lỗi khóa, hãy kiểm tra khóa từ terminal:

Copycurl https://api.deepseekapi.top/v1/models   -H "Authorization: Bearer YOUR_KEY" | grep uncensored

Một danh sách JSON chứa uncensored nghĩa là khóa của bạn hoạt động tốt. Để kiểm tra chính tuyến trò chuyện:

Copycurl https://api.deepseekapi.top/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in one sentence."}]}'

Các cài đặt quan trọng cho nhập vai

Truyền phát

Bật streaming trong bảng Chat Completion. API gửi các token qua SSE khi chúng được tạo ra, vì vậy phản hồi xuất hiện khi chúng đang được viết. Một yêu cầu streaming chiếm một trong các slot concurrency của bạn cho đến khi stream kết thúc. Khóa đầy đủ cho phép 8 cùng lúc, khóa dùng thử cho phép 2.

Kích thước cửa sổ ngữ cảnh

Mô hình có cửa sổ ngữ cảnh 100.000 token, bao gồm prompt và completion. Bạn không cần phải dùng hết. SillyTavern gửi thẻ nhân vật, persona, các mục trong lorebook và nhiều lịch sử chat nhất có thể phù hợp với giới hạn bạn đặt, trên mỗi tin nhắn. Giới hạn nhỏ hơn nghĩa là hóa đơn nhỏ hơn và phản hồi nhanh hơn. Với hầu hết các cuộc hội thoại, 16k đến 32k token là đủ.

Độ dài phản hồi tối đa

Đặt giới hạn phản hồi ở mức hợp lý, chẳng hạn như 400 đến 600 token, để tránh phản hồi lan man thành một bài luận. API không yêu cầu max_tokens, nhưng giới hạn này bảo vệ tín dụng của bạn khỏi các đầu ra không kiểm soát được.

Lấy mẫu

Temperature, top_p, stop sequences, seed và các penalty được chuyển tiếp trực tiếp đến mô hình. Điểm bắt đầu phổ biến cho chat nhân vật là temperature từ 0.8 đến 1.0 và top_p khoảng 0.9. Thay đổi một giá trị tại một thời điểm. Nếu một nhân vật lặp lại các cụm từ, hãy tăng frequency hoặc presence penalty một chút thay vì tăng temperature.

Stop sequences

Nếu mô hình bắt đầu viết cả các dòng của người dùng, hãy thêm tên người dùng theo sau là dấu hai chấm làm stop sequence. Giá trị này sẽ được chuyển tiếp.

Danh sách kiểm tra lần đầu

Trước khi tải một nhân vật yêu thích, hãy chạy một cuộc hội thoại thử nghiệm ngắn để đảm bảo kết nối hoạt động tốt.

1. Tạo một nhân vật trống hoặc sử dụng thẻ trợ lý mặc định.
2. Gửi "Trả lời bằng từ ready." Câu trả lời sẽ quay lại trong một hoặc hai giây và được truyền phát khi nó được tạo ra.
3. Mở bảng điều khiển SillyTavern hoặc nhật ký mạng nếu không có gì xuất hiện. Mã 401 có nghĩa là khóa sai, mã 404 có nghĩa là URL hoặc model ID sai, và mã 429 có nghĩa là đã đạt giới hạn.
4. Kiểm tra số dư của bạn. Mỗi phản hồi bao gồm tiêu đề X-Balance-USD, vì vậy bạn có thể xác minh tín dụng giảm đi một lượng nhỏ sau mỗi tin nhắn.
5. Chỉ sau đó hãy tải thẻ nhân vật thực và lorebook của bạn.

Nếu phản hồi trống hoặc bị cắt giữa câu, hãy kiểm tra cài đặt độ dài phản hồi trước. Giới hạn đặt quá thấp sẽ kết thúc phản hồi sớm, và câu chưa hoàn thành không phải là lỗi của mô hình.

Chuyển đổi giữa các preset

SillyTavern giữ các preset sampling tách biệt với hồ sơ kết nối. Bạn nên lưu một preset cho viết văn bản, với temperature cao hơn, và một preset cho các phản hồi ngắn mang tính thực tế, với temperature thấp hơn. Chuyển đổi preset không ảnh hưởng đến endpoint hoặc key.

Một phiên roleplay tốn bao nhiêu

Giá là $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra, trừ từ tín dụng trả trước mà không cần đăng ký gói. Vì lịch sử được gửi lại, phần đầu vào chiếm tỷ trọng lớn hơn. Hãy thử qua một cuộc trò chuyện với prompt 20.000 token mỗi tin nhắn và phản hồi 400 token:

• Đầu vào: 20.000 × $0,15 / 1.000.000 = $0,003
• Đầu ra: 400 × $0,50 / 1.000.000 = $0,0002
• Tổng cộng: $0,0032 mỗi tin nhắn

Vậy 100 tin nhắn tốn $0.32. Bây giờ hãy so sánh một cửa sổ ngữ cảnh được cắt giảm còn 8.000 token với cùng phản hồi: 8.000 × $0.15 / 1.000.000 = $0.0012, cộng thêm $0.0002, thành $0.0014 mỗi tin nhắn và $0.14 cho 100 tin nhắn. Cắt giảm ngữ cảnh tốn ít hơn một nửa chi phí cho cùng số lượt.

Số tiền $0.50 dùng thử bao gồm khoảng 156 tin nhắn ở kích thước lớn hơn (0,50 / 0,0032 = 156,25) hoặc khoảng 357 ở kích thước nhỏ hơn (0,50 / 0,0014 = 357,1). Các yêu cầu bị lỗi hoặc bị từ chối sẽ không bị tính phí, và tín dụng không bao giờ hết hạn. Xem trang giá cả để biết số tiền nạp, tiền thưởng và phương thức thanh toán; cả thẻ (Visa, Mastercard, Apple Pay, Google Pay) và tiền mã hóa (USDT trên TRC20, USDC trên Base) đều được chấp nhận.

Nhân vật, an toàn và quy tắc cứng duy nhất

Mô hình được tinh chỉnh cho truyện hư cấu, roleplay và ứng dụng đồng hành dành cho người trưởng thành. Nó không phải là bộ lọc an toàn chung, và nó không quyết định nội dung nào phù hợp với bạn. Đó là việc của bạn: giữ thẻ và cuộc hội thoại của bạn trong phạm vi sử dụng hợp pháp của người trưởng thành.

Giới hạn cố định duy nhất là nội dung tình dục liên quan đến người chưa thành niên không được phép, và không có prompt nào thay đổi điều đó. Hãy giữ tuổi của nhân vật rõ ràng là người trưởng thành trong các thẻ của bạn.

Một số thói quen thực tế giúp cải thiện chất lượng cuộc hội thoại:

• Đặt các thông tin quan trọng nhất về nhân vật ở đầu thẻ, không để ở cuối.
• Sử dụng một prompt hệ thống ngắn để thiết lập phong cách của người kể chuyện và độ dài của các phản hồi.
• Tóm tắt các phần cũ của cuộc trò chuyện bằng tính năng tóm tắt của SillyTavern thay vì giữ chúng mãi mãi.
• Giữ các mục trong lorebook ngắn gọn và được kích hoạt bằng từ khóa để chỉ đưa vào prompt khi cần thiết.

Prompt không được dùng để huấn luyện. Đọc tài liệu hướng dẫn nhanh để xem các tiêu đề phản hồi, bao gồm X-Balance-USD, hiển thị số dư còn lại của bạn.

Sử dụng nhân vật làm backend cho ứng dụng đồng hành

Một số người dùng SillyTavern làm giao diện phía trước cho một nhân vật đồng hành chạy liên tục dành cho người lớn. Các quy tắc tương tự áp dụng cho mọi cuộc trò chuyện. Hãy giữ nhân vật nhất quán bằng cách viết nó dưới dạng một khối cố định ngắn, và để tính năng tóm tắt xử lý các sự kiện cũ. Khoảng thời gian dài giữa các phiên không tốn gì, vì tín dụng không bao giờ hết hạn và không có gói đăng ký.

Nếu sau này bạn xây dựng ứng dụng của riêng mình thay vì dùng SillyTavern, bạn có thể gọi cùng một endpoint từ mã của bạn. Tài liệu quickstart hiển thị các ví dụ curl, Python và Node với cùng Base URL và model ID, nên một prompt hoạt động trong SillyTavern có thể được chuyển sang trực tiếp.

Giới hạn tốc độ trong một cuộc trò chuyện bận rộn

Một cuộc trò chuyện đơn lẻ hiếm khi chạm giới hạn. Các nhóm trò chuyện, các lượt vuốt và nhiều tab mở cùng lúc thì có. Dịch vụ trả về HTTP 429 với mã rate_limited khi bạn vượt quá giới hạn yêu cầu mỗi phút (60 trên khóa dùng thử, 300 trên khóa đầy đủ) và concurrency khi có quá nhiều yêu cầu đang xử lý (2 trên dùng thử, 8 trên đầy đủ).

Trong trường hợp quá tải nhẹ, bạn cũng nhận được mã 429 với tiêu đề Retry-After: 5. Chờ năm giây rồi gửi lại là phản ứng đúng. Nếu bạn thấy những điều này trên khóa dùng thử, hãy đóng các tab thừa hoặc dừng một lượt vuốt trước khi bắt đầu một lượt khác.

Hướng dẫn khác

• Cách sử dụng DeepSeek API trong Cursor: Thiết lập Base URL tùy chỉnh
• Ví dụ Python API DeepSeek: Chat, truyền phát (streaming), công cụ
• Khóa DeepSeek API: Truy cập LLM API không kiểm duyệt