AnythingLLM 整合指南

概覽

AnythingLLM 把 UnoRouter 視為 Generic OpenAI 供應商。輸入模型，設定上下文視窗，然後儲存。

快速設定

把這些貼進用戶端。已登入時會自動填入你的金鑰。

基礎 URL: https://api.unorouter.com/v1
API 金鑰: YOUR_API_KEY

相容性

逐步設定

1. 1
   開啟 LLM Preference

   在側邊欄開啟 Settings，接著進入 LLM Preference。

2. 2
   選擇 Generic OpenAI

   把 LLM Provider 設為 Generic OpenAI 並填寫表單。Max Tokens 預設為 1024，會限制每一則回覆，所以請調高它。

   text

   Base URL: https://api.unorouter.com/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Model context window: 50000
   Max Tokens: 8192

   登入以自動填入 API 金鑰

3. 3
   儲存

   儲存。AnythingLLM 會在聊天工作區中使用 UnoRouter。

推薦模型

在這裡可用的免費模型。把任意模型 id 貼進用戶端即可。

注意事項

• !填好 Base URL 與 API Key 後，Generic OpenAI 會自動抓取模型目錄。若抓取失敗，該欄位會退回成文字方塊，此時請手動輸入模型 ID。
• !Embedding Preference 是另一個分頁。除非你的方案在 UnoRouter 上提供嵌入，否則請保留一個可用的嵌入供應商。