搜尋文件...

開始輸入以搜尋文件

聊天指南

自訂供應商

透過你自己的端點和金鑰聊天。

用名稱、基礎 URL 和 API 金鑰新增任意 OpenAI 相容端點。供應商及其金鑰僅存放在你的本機資料庫中。

自訂模型會與目錄模型並列出現在模型選擇器中。一段對話可以在兩者之間自由切換。

自訂提供商表單,包含名稱、端點 URL、API 金鑰、格式和模型列表

可以自動抓取供應商的模型清單,也可以手動加入模型 id。每個模型的類型是文字或影像。影像類型的模型供影像生成器使用,不會出現在聊天下拉選單中。

模型條目攜帶自己的設定,包括用於預算計算的分詞器。

token 計數驅動歷史裁剪與世界書預算,因此在長聊天中正確的分詞器很重要。每個自訂模型從 13 個預設中選擇:

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

或透過 slug 或 URL 指向任意 HuggingFace 分詞器:

text
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

HuggingFace 分詞器會下載一次並在本機快取。計數絕不會阻塞傳送:若某分詞器載入失敗,會改用一個近似的後備來計數。

目錄模型可以經由一個計費群組路由,該群組會成為新對話的初始值。自訂供應商的模型不走路由,因此群組對它們沒有影響。

發往自訂供應商的請求,直接從你的瀏覽器到你的端點。UnoRouter 的伺服器絕不會看到請求、回覆或你的供應商金鑰。