Épinglage de groupes

Chaque modèle est servi par un ou plusieurs groupes de fournisseurs, chacun avec son prix. Par défaut une clé utilise auto : chaque requête est routée vers le groupe le moins cher actuellement en ligne.

L'épinglage remplace cela par modèle : vous choisissez exactement quels groupes il peut utiliser, et la facturation est verrouillée sur leurs tarifs. Utile quand vous avez besoin de la qualité ou de la région d'un fournisseur précis, ou d'un tarif qui ne doit pas bouger.

La page de détail de chaque modèle liste chaque groupe avec ses prix d'entrée et de sortie sous Group Pricing ; le badge de remise dans la liste des modèles reflète toujours le groupe le moins cher.

Ouvrez Clés API, créez ou modifiez une clé et ouvrez le sélecteur de groupes. Cherchez un modèle, cliquez dessus et cochez un ou plusieurs groupes, triés du moins cher au plus cher avec leur multiplicateur de tarif. Les modèles non touchés restent sur auto.

Les modèles épinglés remontent en haut avec un badge indiquant le nombre de groupes verrouillés ; Tout effacer remet la clé en auto complet. La liste des clés affiche les clés épinglées comme auto +N.

Un modèle épinglé route uniquement dans ses groupes épinglés : le moins cher est essayé en premier, avec bascule automatique vers le suivant en cas d'erreur ou de panne. Le tarif facturé est celui du groupe qui a réellement servi la requête.

Un en-tête X-Group explicite sur une requête l'emporte toujours sur l'épinglage, et les modèles non épinglés gardent le routage au moins cher disponible.

Associez un épinglage à une surveillance pour savoir quand ses groupes changent de prix ou tombent, voir Notifications

Si tous les groupes épinglés d'un modèle sont indisponibles alors que d'autres fournisseurs le servent encore, les requêtes échouent avec une erreur ciblée plutôt qu'un message générique :

{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

Élargissez ou retirez l'épinglage sur la clé, ou réessayez plus tard. Le modèle lui-même fonctionne toujours.