Szukaj w dokumentacji...

Zacznij wpisywać, aby przeszukać dokumentację

Przewodnik po platformie

Przypinanie grup

Przypnij model do wybranych grup dostawców zamiast routingu po najniższej cenie.

Każdy model serwuje jedna lub więcej grup dostawców, każda z własną ceną. Domyślnie klucz działa w trybie auto: każde żądanie idzie do najtańszej działającej grupy.

Przypięcie nadpisuje to dla pojedynczego modelu. Ty wybierasz, których grup może używać, a rozliczenie jest zablokowane na ich stawkach.

Każda strona modelu wymienia w Group Pricing wszystkie grupy z ceną wejścia i wyjścia. Oznaczenie zniżki na liście modeli odnosi się do najtańszej grupy.

Tabela cen grup na stronie szczegółów modelu

Otwórz Klucze API, utwórz albo edytuj klucz i otwórz selektor grup. Wyszukaj model, kliknij go i zaznacz jedną lub więcej grup, ułożonych od najtańszej. Nieruszone modele zostają w trybie auto.

Selektor grup dostawców per model w edytorze klucza

Przypięte modele trafiają na górę listy z oznaczeniem liczby grup. Clear all przywraca klucz do trybu auto. Lista kluczy pokazuje przypięte klucze jako auto +N.

Przypięty model jest kierowany wyłącznie w obrębie swoich grup, od najtańszej, z przejściem awaryjnym przy błędach. Stawkę rozliczenia ustala grupa, która obsłużyła żądanie.

Połącz przypięcie z obserwacją, by wiedzieć, kiedy grupy zmieniają cenę lub padają, zobacz Powiadomienia

Aby przypiąć jedno żądanie bez zmiany klucza, wyślij nagłówek X-Group z dokładną nazwą grupy. Nadpisuje on przypięcie klucza i routing auto. Nazwy skopiuj z Group Pricing.

bash
curl https://api.unorouter.com/v1/chat/completions \
  -H "Authorization: Bearer $UNOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -H "X-Group: glm-new-pol-glm-5.2" \
  -d '{
    "model": "glm-5.2",
    "messages": [{ "role": "user", "content": "Hello" }]
  }'

Nagłówek musi wskazywać grupę, której klucz może używać, inaczej żądanie zostaje odrzucone. Modele bez przypięcia zostają przy routingu po najniższej cenie.

Jeśli wszystkie przypięte grupy leżą, a inni dostawcy nadal serwują model, żądania kończą się konkretnym błędem, a nie ogólnym komunikatem o zajętości:

json
{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

Poszerz albo usuń przypięcie, ewentualnie spróbuj później. Sam model działa.