Gruppen-Pinning
Binde ein Modell an bestimmte Anbietergruppen und deren Tarife statt automatischem Günstigst-Routing.
Auto-Routing vs. Pinning
Jedes Modell wird von einer oder mehreren Anbietergruppen bedient, jede mit eigenem Preis. Standardmäßig nutzt ein Schlüssel auto: Jede Anfrage geht an die günstigste gerade verfügbare Gruppe.
Pinning überschreibt das pro Modell: Du wählst genau, welche Gruppen es nutzen darf, und die Abrechnung ist an deren Tarife gebunden. Nützlich, wenn du die Qualität oder Region eines bestimmten Anbieters brauchst oder einen Tarif, der sich nicht bewegen darf.
Gruppenpreise einsehen
Die Detailseite jedes Modells listet unter Group Pricing jede Gruppe mit ihrem Eingabe- und Ausgabepreis; das Rabatt-Badge in der Modellliste spiegelt immer die günstigste Gruppe.
Gruppen an einem Schlüssel pinnen
Öffne API-Schlüssel, erstelle oder bearbeite einen Schlüssel und öffne den Gruppenwähler. Suche ein Modell, klicke es an und hake eine oder mehrere Anbietergruppen ab, sortiert günstigste zuerst mit ihrem Tarif-Multiplikator. Unberührte Modelle bleiben auf auto.
Gepinnte Modelle schwimmen mit einem Badge nach oben, das zeigt, auf wie viele Gruppen sie fixiert sind; „Alle löschen“ setzt den Schlüssel auf volles auto zurück. Die Schlüsselliste zeigt gepinnte Schlüssel als auto +N.
Wie gepinnte Anfragen routen
Ein gepinntes Modell routet nur innerhalb seiner gepinnten Gruppen: Die günstigste wird zuerst versucht, bei Fehlern oder Ausfall geht es automatisch zur nächsten. Abgerechnet wird der Tarif der Gruppe, die die Anfrage tatsächlich bedient hat.
Ein expliziter X-Group-Header einer Anfrage schlägt das Pinning weiterhin, und ungepinnte Modelle behalten das Günstigst-Routing.
Kombiniere ein Pinning mit einer Beobachtung, um von Preisänderungen oder Ausfällen der Gruppen zu erfahren, siehe Benachrichtigungen
Wenn gepinnte Gruppen ausfallen
Sind alle gepinnten Gruppen eines Modells ausgefallen, während andere Anbieter es weiter bedienen, schlagen Anfragen mit einem gezielten Fehler statt einer generischen Meldung fehl:
{
"error": {
"message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
"type": "new_api_error",
"code": "get_channel_failed"
}
}Erweitere oder entferne das Pinning am Schlüssel oder versuche es später erneut. Das Modell selbst läuft weiter.