Dokümanları ara...

Dokümantasyonu aramak için yazmaya başlayın

Platform Kılavuzu

Grup Sabitleme

Otomatik en ucuz yönlendirme yerine bir modeli belirli sağlayıcı gruplarına ve tarifelerine kilitleyin.

Otomatik yönlendirme ve sabitleme

Her model, her biri kendi fiyatına sahip bir veya daha fazla sağlayıcı grubu tarafından sunulur. Varsayılan olarak anahtar auto kullanır: her istek o an çalışan en ucuz gruba yönlendirilir.

Sabitleme bunu model bazında geçersiz kılar: hangi grupları kullanabileceğini tam olarak seçersiniz ve faturalama onların tarifelerine kilitlenir. Belirli bir sağlayıcının kalitesi ya da bölgesi veya oynamayacak bir tarife gerektiğinde işe yarar.

Grup fiyatlarını görme

Her modelin detay sayfası Group Pricing altında her grubu girdi ve çıktı fiyatıyla listeler; model listesindeki indirim rozeti her zaman en ucuz grubu yansıtır.

Model detay sayfasındaki grup fiyat tablosu

Bir anahtara grup sabitleme

API Anahtarlarını açın, bir anahtar oluşturun veya düzenleyin ve grup seçiciyi açın. Bir model arayın, tıklayın ve tarife çarpanıyla en ucuzdan sıralanmış bir veya daha fazla sağlayıcı grubunu işaretleyin. Dokunmadığınız modeller auto kalır.

Anahtar düzenleyicide model bazlı sağlayıcı grubu seçici

Sabitlenmiş modeller, kaç gruba kilitlendiklerini gösteren rozetle üste çıkar; Tümünü temizle anahtarı tamamen auto durumuna döndürür. Anahtar listesi sabitlenmiş anahtarları auto +N olarak gösterir.

Sabitlenmiş istekler nasıl yönlendirilir

Sabitlenmiş bir model yalnızca sabitlenmiş grupları içinde yönlendirilir: önce en ucuz denenir, hata veya kesintide otomatik olarak sıradakine geçilir. Faturalanan tarife, isteği fiilen sunan grubun tarifesidir.

İstekteki açık bir X-Group başlığı sabitlemeyi yine de geçersiz kılar; sabitlenmemiş modeller en ucuz uygun yönlendirmeyi korur.

Grupları fiyat değiştirdiğinde veya düştüğünde haberdar olmak için sabitlemeyi izlemeyle birleştirin, bkz. Bildirimler

Sabitlenmiş gruplar düştüğünde

Bir modelin tüm sabitlenmiş grupları düşmüşken başka sağlayıcılar onu hâlâ sunuyorsa, istekler genel bir meşgul mesajı yerine hedefli bir hatayla başarısız olur:

json
{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

Anahtardaki sabitlemeyi genişletin veya kaldırın ya da daha sonra yeniden deneyin. Modelin kendisi hâlâ çalışıyor.