已發佈
產品

我們將 130 多個免費 AI 模型從約 50 家供應商整合至單一端點

我們將約 50 家免費供應商接入 UnoRouter:130 多個免費模型、一個相容 OpenAI 的端點、每個 token 收費 $0。這些模型帶有我們無法調整的上游限制,加上我們為維護共享資源池公平性而設置的每分鐘 1 次輕量請求上限。以下是完整說明。

·閱讀約 3 分鐘·作者:UnoRouter 團隊
公告產品

UnoRouter 將約 50 家上游供應商的免費額度整合為超過 130 個模型,透過一組金鑰提供真正的免費方案。每個免費模型每位使用者每分鐘約允許 1 次請求;達到上限時回傳 HTTP 429 並附帶 Retry-After 標頭,資源池耗盡時則回傳明確的「所有供應商繁忙」錯誤並自動恢復。付費模型依 $1 起的隨用隨付方式計費。

免費 LLM 生態系確實存在,但相當分散:NVIDIA、Cloudflare、Gemini、Mistral、Z.ai、ModelScope 以及其他數十家供應商各自提供真實的免費額度,卻分散在數十個註冊頁面、各異的金鑰格式和互不相容的 API 背後。我們找出、測試並整合了所有可找到的永久免費供應商,全部匯入 UnoRouter。最終成果:來自約 50 家供應商的 130 多個免費模型,統一透過一個相容 OpenAI 的端點與一組金鑰存取。

我們新增了什麼

約五十家免費供應商逐一接入,包括:官方免費方案如 NVIDIA NIM、Cloudflare Workers AI、Gemini、Mistral、Z.ai 與 ModelScope,開放模型託管平台與路由器,Gonka 和 AI Horde 等社群網路,以及我們透過自製轉接器串接的免費網頁產品。這涵蓋了 130 多個免費模型,包括 GLM、DeepSeek、Gemini、MiniMax、Qwen、gpt-oss、Nemotron、Llama 等,以及免費的圖像和音訊模型。每個模型在上線前都經過 HTTP、串流與工具呼叫的端對端驗證,我們對付費模型執行的相同真實性檢查也會偵測出宣稱提供某模型但實際上提供不同模型的供應商。

免費自有原因

這些模型是真正免費的,也正因如此它們才有限制。每個上游都各自設限:每分鐘請求數、每日 token 配額、Cloudflare 的神經元預算、志工佇列的優先級。一旦觸及上限,該供應商就會回傳 429,直到限額重置。今早還能用的免費金鑰,到下午就可能已經耗盡。免費層是盡力而為的吞吐量,而非保證。如果你的工作負載需要可預測的延遲、不希望冒出意外的 429,請使用付費模型。

我們自己的速率限制,以及它為何存在

在上游限額之上,我們再加了一道自己的小限制:每位使用者、每個免費模型每分鐘一次請求。這是刻意為之。單個免費模型往往就是一個共享的上游池,全體使用者合計每天也許只有一百萬 token,所以若沒有上限,少數重度使用者幾分鐘內就會把它抽乾,其他人則什麼都拿不到。每模型每分鐘一次,讓這個池得以存續並分攤到整個社群,你也可以把流量分散到眾多免費模型上,而不是死磕某一個。當你觸及我們的上限時,你會收到一個 HTTP 429,並附帶一個 Retry-After 標頭,準確告訴你需要等待多久。這與上游的 429 以及下文的 503 是兩碼事。如果你想在某個特定模型上獲得更高吞吐量,請使用它的付費層,那裡不適用此限制。

為什麼要把它們整合起來

因為另一個選擇是管理五十個帳號。每家供應商都有各自的註冊流程、金鑰格式、base URL 與特殊之處:有些使用自己的 API 方言,有些在 URL 中帶有帳號 ID,有些只以網頁聊天形式存在。我們將這一切全部吸收,讓你用統一的方式呼叫它們:一個相容 OpenAI 的端點、一組金鑰、一個模型名稱。免費模型對你的費用是 $0,我們也不從中抽成;付費模型才是維持服務運作的來源。

我們如何緩和這些限制

這些模型中有許多是由不止一家免費供應商供給的。單是 Llama 3.3 70B 就跑在其中七家上。當多家供應商提供同一個模型時,我們會把它們合併到一個對外發布的名稱下,並自動進行故障轉移:如果某個上游回傳 429 或陷入沉默,供給該模型的下一家健康供應商就會接手這次請求。這是我們確實能掌控的唯一槓桿。如果某個模型的所有供應商一時間都被限速,請求會回傳一個 HTTP 503,附帶明確的"所有供應商繁忙"訊息(既不是 404,也不是"找不到模型"),隨後我們的健康檢查 cron 會在幾分鐘內重新測試並重新啟用該通道。這樣一來,多源免費模型在其任一供應商枯竭之後,仍能長時間繼續應答。單源免費模型沒有退路,因此一旦其唯一的上游用盡,就會停擺。

免費模型的真實來源

並非每個來源都是官方免費 API,我們寧可直接說明,也不願讓你自行假設。部分免費模型目錄來自供應商公開的免費方案。部分來自提供免費推論的社群網路。部分來自免費網頁聊天服務,我們透過自行開發的轉接器串接,而這些服務原本並未為此類用途提供支援。在少數供應商上,我們會使用多個帳號來分散負載。當供應商要求我們停止時,我們會立即停止:九月時,我們在其擁有者聯絡我們後數小時內下架了某個模型。如果你的工作需要官方且穩定的來源,請使用付費模型或該供應商自己的 API。

親自試試

全部 130 多個免費模型均已透過單一相容 OpenAI 的端點上線。取得 API 金鑰或瀏覽模型目錄並篩選免費方案。只要記得當出現 429 或 503 時,確認自己目前使用的是哪個方案即可。

常見問題

UnoRouter 有多少個免費模型?

任何時刻均超過 130 個,來自約 50 家上游供應商。確切的模型組合會隨著上游免費資源池的消耗與恢復而變動,即時清單請見 unorouter.com/models。

免費額度的速率限制是多少?

每位使用者每個模型每分鐘約 1 次請求。達到上限時回傳 HTTP 429 並附帶 Retry-After 標頭。有了 130 多個免費模型,實際上更好的做法是輪替使用不同模型,而非等待冷卻。

使用免費模型需要信用卡嗎?

不需要。用 Discord 或 GitHub 註冊、建立金鑰,就能使用任何帶 :free 字尾的模型。一次性的 $1 Discord 驗證獎勵可以用在付費模型上。

相關文章