समूह पिनिंग

हर मॉडल एक या अधिक प्रदाता समूहों से मिलता है, हर एक की अपनी कीमत। डिफ़ॉल्ट रूप से कुंजी auto उपयोग करती है: हर अनुरोध अभी सक्रिय सबसे सस्ते समूह पर जाता है।

पिनिंग इसे प्रति-मॉडल बदल देती है: आप ठीक-ठीक चुनते हैं कि वह कौन से समूह उपयोग कर सकता है, और बिलिंग उनकी दरों पर लॉक हो जाती है। जब किसी खास प्रदाता की गुणवत्ता या क्षेत्र चाहिए, या ऐसी दर जो बदलनी नहीं चाहिए, तब उपयोगी।

हर मॉडल के विवरण पृष्ठ पर Group Pricing के अंतर्गत हर समूह इनपुट और आउटपुट कीमत के साथ सूचीबद्ध है; मॉडल सूची का छूट बैज हमेशा सबसे सस्ते समूह को दर्शाता है।

API कुंजियाँ खोलें, कुंजी बनाएँ या संपादित करें, और समूह चयनकर्ता खोलें। मॉडल खोजें, उस पर क्लिक करें, और दर गुणक के साथ सबसे सस्ते से क्रमित एक या अधिक प्रदाता समूह चुनें। जिन मॉडलों को न छुएँ वे auto पर रहते हैं।

पिन किए मॉडल ऊपर आ जाते हैं, बैज दिखाता है कि वे कितने समूहों पर लॉक हैं; सभी साफ़ करें कुंजी को पूर्ण auto पर लौटा देता है। कुंजी सूची पिन की गई कुंजियों को auto +N दिखाती है।

पिन किया मॉडल केवल अपने पिन किए समूहों में रूट होता है: पहले सबसे सस्ता आज़माया जाता है, त्रुटि या डाउनटाइम पर अगले पर स्वतः फेलओवर। जो समूह वास्तव में अनुरोध पूरा करता है, उसी की दर बिल होती है।

अनुरोध पर स्पष्ट X-Group हेडर अब भी पिनिंग पर भारी पड़ता है, और बिना पिन वाले मॉडल सबसे-सस्ता-उपलब्ध रूटिंग रखते हैं।

पिन के साथ वॉच जोड़ें ताकि समूहों की कीमत बदलने या डाउन होने पर पता चले, देखें सूचनाएँ

यदि किसी मॉडल के सभी पिन किए समूह डाउन हों जबकि अन्य प्रदाता उसे अब भी सेवा दे रहे हों, तो अनुरोध सामान्य संदेश के बजाय लक्षित त्रुटि से विफल होते हैं:

{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

कुंजी पर पिनिंग बढ़ाएँ या हटाएँ, या बाद में पुनः प्रयास करें। मॉडल स्वयं अब भी चालू है।