什麼是 LLM 閘道？
LLM 閘道是一個端點和一把金鑰，把請求路由到眾多模型供應商。下面講它做什麼、為何有幫助，以及誰真正需要它。
LLM 閘道就是架在眾多模型供應商前面的一個 API：一把金鑰、一張帳單、一個端點，路由和故障轉移都替你處理好。UnoRouter 是開源閘道，透過 OpenAI 相容 API 提供 200+ 個模型，另有 Anthropic 和 Gemini 原生端點，大多數模型有免費額度，其餘按量計費。
LLM 閘道是一個單一的 API 端點，坐落在眾多模型供應商前面，把你的請求路由到你所要的那個模型。與其為每個實驗室分別持有一把金鑰、一個基礎 URL 和各自的 SDK 怪癖，不如持有一把金鑰和一個相容 OpenAI 的端點，其餘的交給閘道處理。這與經典後端工作中的 API 閘道是同一個想法，只是用到了語言模型上。下面講它給你帶來什麼。
樸素的定義
閘道暴露一個相容 OpenAI 的介面，通常是 /v1/chat/completions，並在幕後把你請求中的 model 欄位對應到一個真實供應商。你每次傳送同樣形狀的請求；閘道挑選上游，附上正確的供應商憑證，翻譯任何怪癖，並把回應以串流的形式傳回。換模型時你的程式碼不變，因為你程式設計所針對的合約保持恆定。
它為何有幫助
三處收益。一次整合：針對一個端點程式設計，你就能使用閘道承載的每個模型，無需按供應商各設一個用戶端。一張帳單：跨所有供應商的用量落在一個餘額上，而不是十幾張分開的發票。以及輕鬆切換：改一個模型只是一行編輯，於是你可以按任務追逐最佳價格或品質，而無需重新鋪設你的應用程式。對多數建構者而言，單是在整合上省下的時間，就是全部的理由。
它在底層如何運作
當一個請求到來，閘道讀取 model 中的名稱，查出相符的上游供應商，換入該供應商的憑證，重寫供應商特有的請求主體欄位，再把呼叫轉發出去。串流的 token 經由同一連線返回，所以在你這邊看起來就是一次普通的 OpenAI 呼叫。好的閘道會加上對瞬時錯誤的重試、用量與成本的記帳，以及一份最新的模型目錄，於是新發布會自行出現，而你什麼都不必動。
誰真正需要它
如果你使用不止一個模型，打算隨價格和品質的變化切換模型，或者建構任何不該被硬綁定到單一廠商的東西，那你就需要一個閘道。程式設計代理、聊天應用、角色聊天前端和內部工具都能從中受益。如果你確實只呼叫某一家供應商的某一個模型，且從不打算更換，那直接用供應商的金鑰更簡單。其餘所有人都能靠閘道省下實實在在的功夫。
簡而言之
LLM 閘道把眾多供應商變成一個端點、一把金鑰和一張帳單，於是你整合一次，便能自由換模型。UnoRouter 正是這種模子裡的相容 OpenAI 的閘道：一把金鑰為程式碼和聊天同樣觸達 200 多個模型，配上不會過期的按用量付費額度。如果你觸及不止一個模型，閘道是更乾淨的根基。
常見問題
什麼時候需要 LLM 閘道，而不是直接用供應商金鑰？
當你用到不只一個模型系列、希望在某家供應商當機時自動切換，或想要一張帳單的時候。閘道免去在每家廠商開帳號的麻煩，改一個字串就能換模型。
LLM 閘道會增加延遲嗎？
只多一跳，通常是幾十毫秒，實際使用中會被串流輸出掩蓋。回應慢更多是模型本身的問題，而不是閘道。
UnoRouter 提供哪些端點？
OpenAI 相容的 /v1/chat/completions、/v1/responses 和 /v1/embeddings，Anthropic 原生的 /v1/messages，以及 Gemini 原生的 /v1beta，全部在一把金鑰之後。
Nevika 接受任意 OpenAI 相容端點作為自訂代理。這裡給出一分鐘的設定流程、該挑哪個模型，以及大家最常撞到的兩個錯誤。
一位角色扮演玩家在 UnoRouter 上從記憶力、情感深度、推進力與創意寫作四方面為三個 Claude Opus 版本排名。4.8 勝出，4.6 力壓 4.7，每個版本都有各自明顯的強項與短板。
SpicyChat 是一個零設定的角色扮演網站，它的記憶和上下文被關在付費級距後面。UnoRouter 保留了輕鬆的起步，但加上 200+ 個由你挑的模型、深度的 lorebooks，還有一把也能跑編碼代理的金鑰。