Ghim nhóm

Mỗi mô hình được phục vụ bởi một hoặc nhiều nhóm nhà cung cấp, mỗi nhóm có giá riêng. Mặc định khóa dùng auto: mọi yêu cầu được định tuyến tới nhóm rẻ nhất đang hoạt động.

Ghim ghi đè điều này theo từng mô hình: bạn chọn chính xác các nhóm nó được dùng, và tính phí khóa theo mức giá của các nhóm đó. Hữu ích khi bạn cần chất lượng hoặc khu vực của một nhà cung cấp cụ thể, hay một mức giá không được dao động.

Trang chi tiết của mỗi mô hình liệt kê từng nhóm với giá đầu vào và đầu ra trong mục Group Pricing; huy hiệu giảm giá trong danh sách mô hình luôn phản ánh nhóm rẻ nhất.

Mở Khóa API, tạo hoặc sửa một khóa và mở bộ chọn nhóm. Tìm mô hình, nhấp vào và tích một hoặc nhiều nhóm nhà cung cấp, sắp xếp rẻ nhất trước kèm hệ số giá. Mô hình bạn không đụng tới vẫn ở auto.

Mô hình đã ghim nổi lên đầu với huy hiệu cho biết bị khóa vào bao nhiêu nhóm; Xóa tất cả đưa khóa về auto hoàn toàn. Danh sách khóa hiển thị khóa đã ghim là auto +N.

Mô hình đã ghim chỉ định tuyến trong các nhóm đã ghim: thử nhóm rẻ nhất trước, tự động chuyển sang nhóm kế khi lỗi hoặc ngừng hoạt động. Mức giá bị tính là của nhóm thực sự phục vụ yêu cầu.

Header X-Group tường minh trên yêu cầu vẫn thắng ghim, và mô hình chưa ghim giữ định tuyến rẻ nhất hiện có.

Kết hợp ghim với theo dõi để biết khi các nhóm đổi giá hoặc ngừng hoạt động, xem Thông báo

Nếu mọi nhóm đã ghim của một mô hình đều ngừng hoạt động trong khi nhà cung cấp khác vẫn phục vụ nó, yêu cầu sẽ thất bại với lỗi nhắm đích thay vì thông báo bận chung chung:

{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

Mở rộng hoặc gỡ ghim trên khóa, hoặc thử lại sau. Bản thân mô hình vẫn đang hoạt động.