Cách kết nối bất kỳ LLM nào với SillyTavern
SillyTavern có thể nói chuyện với gần như mọi mô hình qua một điểm cuối tương thích OpenAI. Đây là cách thiết lập chính xác, cách đổi mô hình và cách sửa các lỗi thường gặp.
SillyTavern là một frontend, không phải nơi lưu trữ mô hình. Để dùng nó, bạn trỏ nó tới một điểm cuối tương thích OpenAI và dán một khoá, rồi nó có thể điều khiển gần như mọi mô hình đằng sau điểm cuối đó. Cách sạch nhất để chạm tới nhiều mô hình là một cổng, nên một khoá và URL cơ sở mở khoá toàn bộ danh mục thay vì một nhà cung cấp. Đây là cách thiết lập chính xác, cộng thêm cách đổi mô hình và sửa các lỗi người ta thường gặp.
Bạn cần gì trước
Ba thứ: một bản cài SillyTavern đang chạy, một điểm cuối tương thích OpenAI và một khoá cho nó. Một cổng phủ hai thứ cuối cùng liền, vì nó cho bạn một URL cơ sở và một khoá chạm tới nhiều mô hình. Với UnoRouter bạn tạo một tài khoản, lấy khoá và sẵn sàng; có một bậc miễn phí để bạn thử một nhân vật trước khi chi tiêu bất cứ gì. Giữ khoá trong tầm tay và đừng dán nó ở bất cứ nơi công cộng nào.
Các bước thiết lập
Trong SillyTavern, mở bảng API và chọn Chat Completion, rồi chọn nguồn tương thích OpenAI (Custom). Đặt URL cơ sở thành https://api.unorouter.com/v1, dán khóa UnoRouter của bạn và nhấp để tải danh sách mô hình. Chọn một mô hình từ menu thả xuống và gửi một tin nhắn thử. Nhân vật, lorebook và preset của bạn hoạt động không đổi, vì SillyTavern chỉ cần một endpoint và một khóa. Cùng một khóa cũng hoạt động trong Janitor.AI, RisuAI và Chub.
Đổi mô hình về sau
Vì mọi thứ đi qua một điểm cuối, đổi mô hình chỉ là chọn một mục khác trong menu thả xuống mô hình; không tài khoản, khoá hay URL cơ sở mới. Điều đó cho bạn chạy một mô hình miễn phí rẻ trong khi dựng một cảnh, rồi chuyển sang một mô hình trả phí mạnh hơn cho khoảnh khắc quan trọng. Với hơn 200 mô hình trên một khoá, bạn có thể khớp mô hình với cảnh thay vì chấp nhận bất cứ gì một nhà cung cấp đưa ra.
Lỗi thường gặp và cách sửa
Nếu danh sách mô hình không tải, kiểm tra lại URL cơ sở kết thúc bằng /v1 và khoá được dán không có khoảng trắng thừa. Lỗi 401 nghĩa là khoá sai hoặc hết hạn; sao chép lại. Lỗi 404 trên một mô hình nghĩa là tên mô hình đó chưa được chọn từ danh sách đã tải. Nếu các câu trả lời bị cắt, tăng độ dài trả lời trong cài đặt của SillyTavern. Hầu hết các thất bại thiết lập là một URL cơ sở gõ sai hoặc một khoá có khoảng trắng, nên kiểm tra những cái đó trước.
Đó là toàn bộ mẹo
Kết nối bất kỳ LLM nào với SillyTavern rút lại còn một endpoint tương thích OpenAI cộng một khóa, và một cổng biến điều đó thành nhiều mô hình sau một lần thiết lập duy nhất. UnoRouter cho bạn URL cơ sở đó, một bậc miễn phí để bắt đầu, và hơn 200 mô hình bạn có thể đổi qua lại mà không phải làm lại gì. Thiết lập một lần và cùng một khóa theo bạn qua mọi giao diện chat nhân vật.
Sẵn sàng kết nối SillyTavern? Tạo tài khoản miễn phí hoặc duyệt các mô hình.
Nevika chấp nhận bất kỳ endpoint tương thích OpenAI nào làm custom proxy. Đây là cách thiết lập trong một phút, nên chọn model nào, và hai lỗi ai cũng gặp.
Một người chơi nhập vai xếp hạng ba phiên bản Claude Opus trên UnoRouter: trí nhớ, chiều sâu cảm xúc, sức đẩy và khả năng viết sáng tạo. 4.8 thắng, 4.6 vượt 4.7, và mỗi bản đều thắng hoặc tụt lại ở một điểm rõ ràng.
SpicyChat là một trang nhập vai không cần thiết lập mà bộ nhớ và ngữ cảnh của nó bị khóa sau các tầng trả phí. UnoRouter giữ lại khởi đầu dễ dàng nhưng thêm 200+ model bạn tự chọn, lorebook chuyên sâu, và một key cũng chạy các coding agent.