Закрепление групп
Зафиксируйте модель за конкретными группами провайдеров и их тарифами вместо автоматического выбора самого дешёвого.
Авто-маршрутизация против закрепления
Каждую модель обслуживает одна или несколько групп провайдеров, у каждой своя цена. По умолчанию ключ использует auto: каждый запрос идёт в самую дешёвую живую группу.
Закрепление переопределяет это для конкретной модели: вы точно выбираете, какие группы ей разрешены, и биллинг фиксируется на их тарифах. Полезно, когда нужны качество или регион конкретного провайдера либо тариф, который не должен плавать.
Где смотреть цены групп
Страница каждой модели перечисляет все группы с ценой ввода и вывода в разделе Group Pricing; значок скидки в списке моделей всегда отражает самую дешёвую группу.
Закрепление групп на ключе
Откройте API-ключи, создайте или отредактируйте ключ и откройте выбор групп. Найдите модель, кликните её и отметьте одну или несколько групп провайдеров, отсортированных от самой дешёвой с их множителем тарифа. Нетронутые модели остаются на auto.
Закреплённые модели всплывают наверх со значком количества групп, за которыми они зафиксированы; «Очистить всё» возвращает ключ к полному auto. В списке ключей закреплённые ключи выглядят как auto +N.
Как маршрутизируются закреплённые запросы
Закреплённая модель маршрутизируется только внутри своих групп: сначала пробуется самая дешёвая, при ошибках или сбоях автоматически берётся следующая. Списывается тариф той группы, которая фактически обслужила запрос.
Явный заголовок X-Group в запросе по-прежнему сильнее закрепления, а незакреплённые модели сохраняют маршрутизацию к самому дешёвому доступному.
Сочетайте закрепление с отслеживанием, чтобы узнавать, когда группы меняют цену или падают, смотрите Уведомления
Когда закреплённые группы недоступны
Если все закреплённые группы модели недоступны, а другие провайдеры её всё ещё обслуживают, запросы завершаются целевой ошибкой вместо общего сообщения:
{
"error": {
"message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
"type": "new_api_error",
"code": "get_channel_failed"
}
}Расширьте или снимите закрепление на ключе либо повторите позже. Сама модель по-прежнему работает.