Provedores personalizados

Adicione qualquer endpoint compatível com OpenAI com nome, URL base e chave de API. O provedor e a chave ficam só no seu banco de dados local.

Modelos personalizados aparecem no seletor ao lado dos modelos do catálogo; uma conversa alterna livremente entre eles.

Busque a lista de modelos do provedor automaticamente ou adicione ids à mão. Cada modelo é tipado como texto ou imagem; modelos de imagem alimentam o gerador de imagens do chat em vez do menu suspenso.

Cada entrada de modelo carrega as próprias configurações, incluindo o tokenizador usado no orçamento.

A contagem de tokens comanda o corte do histórico e os orçamentos de lorebook, então o tokenizador certo importa em chats longos. Cada modelo personalizado escolhe entre 13 predefinições:

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

Ou aponte para qualquer tokenizador do HuggingFace por slug ou URL:

hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

Tokenizadores do HuggingFace baixam uma vez e ficam em cache local. A contagem nunca bloqueia um envio: se um tokenizador falhar ao carregar, um reserva aproximado conta no lugar.

Modelos do catálogo podem rotear por um grupo de cobrança que semeia chats novos. Modelos de provedores próprios pulam o roteamento por completo, então o grupo não tem efeito sobre eles.

Requisições a provedores próprios vão direto do seu navegador para o seu endpoint. Os servidores do UnoRouter nunca veem a requisição, a resposta nem a sua chave do provedor.