Blocco gruppi
Vincola un modello a gruppi di provider specifici e alle loro tariffe invece dell'instradamento automatico al più economico.
Instradamento auto vs blocco
Ogni modello è servito da uno o più gruppi di provider, ciascuno con il proprio prezzo. Per impostazione predefinita una chiave usa auto: ogni richiesta va al gruppo più economico attualmente attivo.
Il blocco lo sostituisce per singolo modello: scegli esattamente quali gruppi può usare e la fatturazione resta ancorata alle loro tariffe. Utile quando serve la qualità o la regione di un provider preciso, o una tariffa che non deve variare.
Vedere i prezzi dei gruppi
La pagina di dettaglio di ogni modello elenca ciascun gruppo con prezzo di input e output sotto Group Pricing; il badge di sconto nell'elenco modelli riflette sempre il gruppo più economico.
Bloccare gruppi su una chiave
Apri Chiavi API, crea o modifica una chiave e apri il selettore dei gruppi. Cerca un modello, cliccalo e spunta uno o più gruppi di provider, ordinati dal più economico con il loro moltiplicatore di tariffa. I modelli non toccati restano su auto.
I modelli bloccati salgono in cima con un badge che mostra a quanti gruppi sono vincolati; Cancella tutto riporta la chiave ad auto completo. L'elenco chiavi mostra le chiavi bloccate come auto +N.
Come vengono instradate le richieste bloccate
Un modello bloccato viene instradato solo tra i suoi gruppi bloccati: si prova prima il più economico, con failover automatico al successivo in caso di errori o interruzioni. Viene fatturata la tariffa del gruppo che ha effettivamente servito la richiesta.
Un header X-Group esplicito sulla richiesta vince comunque sul blocco, e i modelli non bloccati mantengono l'instradamento al più economico disponibile.
Abbina un blocco a un'osservazione per sapere quando i suoi gruppi cambiano prezzo o cadono, vedi Notifiche
Quando i gruppi bloccati sono giù
Se tutti i gruppi bloccati di un modello sono giù mentre altri provider lo servono ancora, le richieste falliscono con un errore mirato invece di un messaggio generico:
{
"error": {
"message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
"type": "new_api_error",
"code": "get_channel_failed"
}
}Allarga o rimuovi il blocco sulla chiave, oppure riprova più tardi. Il modello in sé è ancora attivo.