Nhà cung cấp tùy chỉnh
Trò chuyện qua endpoint và khóa của riêng bạn.
Thêm bất kỳ endpoint tương thích OpenAI nào với tên, URL cơ sở và khóa API. Nhà cung cấp và khóa của nó chỉ được lưu trong cơ sở dữ liệu cục bộ của bạn.
Các mô hình tùy chỉnh xuất hiện trong bộ chọn mô hình cùng với các mô hình trong danh mục. Một cuộc trò chuyện có thể chuyển qua lại giữa chúng thoải mái.
Tải danh sách mô hình của nhà cung cấp một cách tự động, hoặc thêm model id thủ công. Mỗi mô hình thuộc kiểu văn bản hoặc hình ảnh. Mô hình kiểu hình ảnh phục vụ bộ tạo ảnh, không nằm trong danh sách chọn của phần trò chuyện.
Mục mô hình mang cài đặt riêng, bao gồm bộ token hóa dùng để tính ngân sách.
Việc đếm token chi phối việc cắt tỉa lịch sử và ngân sách sổ tri thức, nên bộ token hóa đúng rất quan trọng trong các chat dài. Mỗi mô hình tùy chỉnh chọn từ 13 preset:
auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere
Hoặc trỏ đến bất kỳ bộ token hóa HuggingFace nào theo slug hoặc URL:
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.jsonBộ token hóa HuggingFace tải xuống một lần và được lưu đệm cục bộ. Việc đếm không bao giờ chặn một lần gửi: nếu một bộ token hóa nạp thất bại, một dự phòng xấp xỉ đếm thay.
Các mô hình trong danh mục có thể định tuyến qua một nhóm tính phí, và nhóm này trở thành giá trị khởi đầu cho cuộc trò chuyện mới. Mô hình của nhà cung cấp tùy chỉnh không đi qua định tuyến, nên nhóm không ảnh hưởng tới chúng.
Yêu cầu đến nhà cung cấp tùy chỉnh đi thẳng từ trình duyệt của bạn đến endpoint của bạn. Máy chủ UnoRouter không bao giờ thấy yêu cầu, phản hồi hay khóa nhà cung cấp của bạn.