搜尋文件...

開始輸入以搜尋文件

平台指南

群組釘選

將模型鎖定到特定供應商群組及其費率,取代自動最便宜路由。

自動路由與釘選

每個模型由一個或多個供應商群組提供服務,各有價格。金鑰預設使用 auto:每個請求都會路由到目前可用的最便宜群組。

釘選會按模型覆寫這個行為:你精確選擇它可使用哪些群組,計費也鎖定為這些群組的費率。當你需要特定供應商的品質或地區,或需要不會波動的費率時很有用。

查看群組價格

每個模型詳情頁的 Group Pricing 區塊列出各群組的輸入與輸出價格;模型清單中的折扣徽章始終反映最便宜的群組。

模型詳情頁上的群組價格表

在金鑰上釘選群組

開啟 API 金鑰,建立或編輯金鑰並開啟群組選擇器。搜尋模型並點擊,勾選一個或多個供應商群組,依最便宜優先排序並附費率倍數。未更動的模型保持 auto。

金鑰編輯器中的按模型供應商群組選擇器

已釘選的模型會浮到頂部,並帶有顯示鎖定群組數量的徽章;「全部清除」可將金鑰恢復為完全 auto。金鑰清單中已釘選的金鑰顯示為 auto +N。

釘選請求如何路由

已釘選的模型只在其釘選群組內路由:先嘗試最便宜的群組,發生錯誤或停機時自動切換到下一個。實際服務請求的群組費率即為計費費率。

請求上明確的 X-Group 標頭仍優先於釘選,未釘選的模型維持最便宜可用路由。

將釘選與關注搭配使用,即可在群組調價或停機時第一時間得知,請參閱: 通知

釘選群組全部停機時

如果某模型的所有釘選群組都無法使用,而其他供應商仍在提供服務,請求會以針對性的錯誤失敗,而不是籠統的忙碌訊息:

json
{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

放寬或移除金鑰上的釘選,或稍後重試。模型本身仍在線上。