如何把任意 LLM 連接到 SillyTavern
SillyTavern 能透過一個相容 OpenAI 的端點與幾乎任何模型對話。下面是確切的設定、如何換模型,以及如何修復常見錯誤。
SillyTavern 是一個前端,不是模型主機。要用它,你把它指向一個相容 OpenAI 的端點並貼上一把金鑰,隨後它就能驅動那個端點背後幾乎任何模型。觸達眾多模型最乾淨的辦法是閘道,於是一把金鑰和一個基礎 URL 解鎖整個目錄,而不是單一供應商。下面是確切的設定,外加如何換模型,以及如何修復人們通常會碰到的錯誤。
你首先需要什麼
三樣東西:一個執行中的 SillyTavern 安裝、一個相容 OpenAI 的端點,以及給它的一把金鑰。閘道把後兩樣一併涵蓋,因為它給你一個基礎 URL 和一把觸達眾多模型的金鑰。用 UnoRouter,你建立帳戶、取得金鑰,便準備就緒;有一個免費方案,讓你在花任何錢之前先試一個角色。把金鑰放在手邊,別把它貼到任何公開的地方。
設定步驟
在 SillyTavern 中,開啟 API 面板並選擇 Chat Completion,然後選 OpenAI 相容(Custom)來源。把基礎 URL 設為 https://api.unorouter.com/v1,貼上你的 UnoRouter 金鑰,點擊以載入模型清單。從下拉中挑一個模型,發一則測試訊息。你的角色、世界書和預設照舊執行,因為 SillyTavern 需要的只是一個端點和一把金鑰。同一把金鑰在 Janitor.AI、RisuAI 和 Chub 裡也能用。
之後換模型
因為一切都經由一個端點,換模型只是在模型下拉裡選另一項;沒有新帳戶、新金鑰或新基礎 URL。這讓你在搭建一個場景時跑一個便宜的免費模型,再在關鍵時刻切到一個更強的付費模型。一把金鑰上有 200 多個模型,你便能讓模型貼合場景,而不必將就單一供應商所提供的東西。
常見錯誤與修復
如果模型清單載入不出來,再次檢查基礎 URL 是否以 /v1 結尾,以及金鑰是否貼得沒有多餘空格。401 意味著金鑰錯誤或已過期;再複製一遍。某個模型上的 404 意味著那個模型名沒有從已載入的清單中選中。如果回覆被截斷,在 SillyTavern 的設定裡把回應長度調高。多數設定失敗是基礎 URL 打錯或金鑰帶空格,所以先查這些。
全部訣竅就這些
把任意 LLM 連接到 SillyTavern,歸結為一個相容 OpenAI 的端點加一把金鑰,而閘道把這變成單一設定背後的眾多模型。UnoRouter 給你那個基礎 URL、一個起步的免費方案,以及 200 多個無需重做任何事即可來回切換的模型。設定一次,同一把金鑰便隨你走遍每個 RP 前端。