Nhà cung cấp tùy chỉnh

Thêm bất kỳ endpoint tương thích OpenAI nào với tên, URL cơ sở và khóa API. Nhà cung cấp và khóa của nó chỉ được lưu trong cơ sở dữ liệu cục bộ của bạn.

Mô hình tùy chỉnh hiện trong bộ chọn mô hình cạnh các mô hình danh mục; một cuộc trò chuyện có thể chuyển giữa chúng tự do.

Lấy danh sách mô hình của nhà cung cấp tự động hoặc thêm id mô hình thủ công. Mỗi mô hình được định kiểu là văn bản hoặc ảnh; mô hình kiểu ảnh nạp cho bộ tạo ảnh trong chat thay vì trình đơn thả xuống của chat.

Mục mô hình mang cài đặt riêng, bao gồm bộ token hóa dùng để tính ngân sách.

Việc đếm token chi phối việc cắt tỉa lịch sử và ngân sách sổ tri thức, nên bộ token hóa đúng rất quan trọng trong các chat dài. Mỗi mô hình tùy chỉnh chọn từ 13 preset:

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

Hoặc trỏ đến bất kỳ bộ token hóa HuggingFace nào theo slug hoặc URL:

hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

Bộ token hóa HuggingFace tải xuống một lần và được lưu đệm cục bộ. Việc đếm không bao giờ chặn một lần gửi: nếu một bộ token hóa nạp thất bại, một dự phòng xấp xỉ đếm thay.

Mô hình danh mục có thể được định tuyến qua một nhóm tính phí gieo cho chat mới. Mô hình nhà cung cấp tùy chỉnh bỏ qua định tuyến hoàn toàn, nên nhóm không tác động lên chúng.

Yêu cầu đến nhà cung cấp tùy chỉnh đi thẳng từ trình duyệt của bạn đến endpoint của bạn. Máy chủ UnoRouter không bao giờ thấy yêu cầu, phản hồi hay khóa nhà cung cấp của bạn.