Penyematan Grup

Setiap model dilayani oleh satu atau beberapa grup penyedia, masing-masing dengan harganya sendiri. Secara default kunci memakai auto: setiap permintaan dirutekan ke grup termurah yang sedang aktif.

Penyematan menimpanya per model: Anda memilih persis grup mana yang boleh dipakai, dan penagihan terkunci ke tarif grup tersebut. Berguna saat Anda butuh kualitas atau wilayah penyedia tertentu, atau tarif yang tidak boleh berubah.

Halaman detail tiap model mencantumkan setiap grup dengan harga input dan output di bagian Group Pricing; lencana diskon di daftar model selalu mencerminkan grup termurah.

Buka Kunci API, buat atau edit kunci, lalu buka pemilih grup. Cari model, klik, dan centang satu atau beberapa grup penyedia, diurutkan dari termurah dengan pengali tarifnya. Model yang tidak disentuh tetap auto.

Model yang disematkan naik ke atas dengan lencana jumlah grup penguncinya; Bersihkan semua mengembalikan kunci ke auto penuh. Daftar kunci menampilkan kunci tersemat sebagai auto +N.

Model tersemat hanya dirutekan di dalam grup sematannya: yang termurah dicoba dulu, dengan failover otomatis ke berikutnya saat galat atau gangguan. Tarif yang ditagih adalah tarif grup yang benar-benar melayani permintaan.

Header X-Group eksplisit pada permintaan tetap menang atas sematan, dan model tanpa sematan tetap memakai perutean termurah yang tersedia.

Padukan sematan dengan pantauan agar tahu saat grupnya berubah harga atau tumbang, lihat Notifikasi

Jika semua grup tersemat sebuah model tumbang sementara penyedia lain masih melayaninya, permintaan gagal dengan galat terarah alih-alih pesan sibuk generik:

{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

Perluas atau lepas sematan pada kunci, atau coba lagi nanti. Modelnya sendiri masih aktif.