Собственные провайдеры
Общайтесь через собственный эндпоинт и ключ.
Добавьте любой OpenAI-совместимый эндпоинт с именем, базовым URL и API-ключом. Провайдер и его ключ хранятся только в вашей локальной базе.
Кастомные модели появляются в выборе моделей рядом с моделями каталога. Разговор может свободно переключаться между ними.
Загрузите список моделей провайдера автоматически или добавьте id моделей вручную. У каждой модели есть тип: текст или изображение. Модели с типом изображения питают генератор картинок, а не список моделей чата.
Записи моделей несут собственные настройки, включая токенизатор для бюджетирования.
Подсчёт токенов управляет обрезкой истории и бюджетами лорбуков, так что верный токенизатор важен в длинных чатах. Каждая своя модель выбирает из 13 пресетов:
auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere
Или укажите любой токенизатор HuggingFace по slug или URL:
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.jsonТокенизаторы HuggingFace скачиваются один раз и кешируются локально. Подсчёт никогда не блокирует отправку: если токенизатор не загрузился, вместо него считает приблизительный запасной.
Модели каталога могут маршрутизироваться через биллинговую группу, которая задаётся новым чатам. Модели кастомного провайдера обходят маршрутизацию, поэтому группа на них не влияет.
Запросы к собственным провайдерам идут напрямую из вашего браузера на ваш эндпоинт. Серверы UnoRouter никогда не видят ни запрос, ни ответ, ни ключ вашего провайдера.