Gruppen-Pinning

Jedes Modell wird von einer oder mehreren Anbietergruppen bedient, jede mit eigenem Preis. Standardmäßig nutzt ein Schlüssel auto: jede Anfrage geht an die günstigste aktive Gruppe.

Das Festlegen überschreibt das je Modell. Man wählt, welche Gruppen es nutzen darf, und die Abrechnung ist an deren Tarife gebunden.

Jede Modellseite listet unter Group Pricing jede Gruppe mit Eingabe- und Ausgabepreis. Das Rabattabzeichen in der Modellliste bezieht sich auf die günstigste Gruppe.

Öffne API-Schlüssel, einen Schlüssel erstellen oder bearbeiten und die Gruppenauswahl öffnen. Ein Modell suchen, anklicken und eine oder mehrere Gruppen ankreuzen, sortiert nach dem günstigsten Preis. Unberührte Modelle bleiben auf auto.

Festgelegte Modelle stehen oben, mit einem Abzeichen für die Anzahl ihrer Gruppen. Clear all setzt den Schlüssel auf auto zurück. Die Schlüsselliste zeigt festgelegte Schlüssel als auto +N.

Ein festgelegtes Modell wird nur innerhalb seiner Gruppen geleitet, günstigste zuerst, mit Ausweichen bei Fehlern. Die Gruppe, die die Anfrage bedient, bestimmt den abgerechneten Tarif.

Kombiniere ein Pinning mit einer Beobachtung, um von Preisänderungen oder Ausfällen der Gruppen zu erfahren, siehe Benachrichtigungen

Um eine einzelne Anfrage festzulegen, ohne den Schlüssel zu ändern, einen Header X-Group mit dem exakten Gruppennamen senden. Er überschreibt die Festlegung des Schlüssels und das auto-Routing. Namen aus Group Pricing kopieren.

curl https://api.unorouter.com/v1/chat/completions \
  -H "Authorization: Bearer $UNOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -H "X-Group: glm-new-pol-glm-5.2" \
  -d '{
    "model": "glm-5.2",
    "messages": [{ "role": "user", "content": "Hello" }]
  }'

Der Header muss eine Gruppe nennen, die der Schlüssel nutzen darf, sonst wird die Anfrage abgelehnt. Nicht festgelegte Modelle bleiben beim günstigsten Routing.

Fällt jede festgelegte Gruppe aus, während andere Anbieter das Modell weiter bedienen, scheitern Anfragen mit einem eigenen Fehler statt mit einer allgemeinen Auslastungsmeldung:

{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

Die Festlegung erweitern oder entfernen oder es später erneut versuchen. Das Modell selbst läuft.