如何把任意 LLM 連接到 SillyTavern
SillyTavern 能透過一個相容 OpenAI 的端點與幾乎任何模型對話。下面是確切的設定、如何換模型,以及如何修復常見錯誤。
SillyTavern 是一個前端,不是模型主機。要用它,你把它指向一個相容 OpenAI 的端點並貼上一把金鑰,隨後它就能驅動那個端點背後幾乎任何模型。觸達眾多模型最乾淨的辦法是閘道,於是一把金鑰和一個基礎 URL 解鎖整個目錄,而不是單一供應商。下面是確切的設定,外加如何換模型,以及如何修復人們通常會碰到的錯誤。
你首先需要什麼
三樣東西:一個執行中的 SillyTavern 安裝、一個相容 OpenAI 的端點,以及給它的一把金鑰。閘道把後兩樣一併涵蓋,因為它給你一個基礎 URL 和一把觸達眾多模型的金鑰。用 UnoRouter,你建立帳戶、取得金鑰,便準備就緒;有一個免費方案,讓你在花任何錢之前先試一個角色。把金鑰放在手邊,別把它貼到任何公開的地方。
設定步驟
在 SillyTavern 中,開啟 API 面板並選擇 Chat Completion,然後選擇 OpenAI 相容(Custom)來源。將基礎 URL 設為 https://api.unorouter.com/v1,貼上你的 UnoRouter 金鑰,按一下載入模型清單。從下拉選單中選一個模型並傳送一條測試訊息。你的角色、世界書和預設照常執行,因為 SillyTavern 只需要一個端點和一把金鑰。同一把金鑰在 Janitor.AI、RisuAI 和 Chub 中同樣有效。
之後換模型
因為一切都經由一個端點,換模型只是在模型下拉裡選另一項;沒有新帳戶、新金鑰或新基礎 URL。這讓你在搭建一個場景時跑一個便宜的免費模型,再在關鍵時刻切到一個更強的付費模型。一把金鑰上有 200 多個模型,你便能讓模型貼合場景,而不必將就單一供應商所提供的東西。
常見錯誤與修復
如果模型清單載入不出來,再次檢查基礎 URL 是否以 /v1 結尾,以及金鑰是否貼得沒有多餘空格。401 意味著金鑰錯誤或已過期;再複製一遍。某個模型上的 404 意味著那個模型名沒有從已載入的清單中選中。如果回覆被截斷,在 SillyTavern 的設定裡把回應長度調高。多數設定失敗是基礎 URL 打錯或金鑰帶空格,所以先查這些。
全部訣竅就這些
把任意 LLM 連接到 SillyTavern,歸根結底就是一個 OpenAI 相容端點加一把金鑰,而一個閘道會把它變成同一套設定背後的眾多模型。UnoRouter 給你那個基礎 URL、供你起步的免費級,以及 200+ 個可隨意切換、無需重做任何設定的模型。設定一次,同一把金鑰就會在每一個角色聊天前端裡跟著你走。
Nevika 接受任意 OpenAI 相容端點作為自訂代理。這裡給出一分鐘的設定流程、該挑哪個模型,以及大家最常撞到的兩個錯誤。
一位角色扮演玩家在 UnoRouter 上從記憶力、情感深度、推進力與創意寫作四方面為三個 Claude Opus 版本排名。4.8 勝出,4.6 力壓 4.7,每個版本都有各自明顯的強項與短板。
SpicyChat 是一個零設定的角色扮演網站,它的記憶和上下文被關在付費級距後面。UnoRouter 保留了輕鬆的起步,但加上 200+ 個由你挑的模型、深度的 lorebooks,還有一把也能跑編碼代理的金鑰。