Buscar documentação...

Comece a digitar para buscar documentação

Guia do chat

Provedores personalizados

Converse pelo seu próprio endpoint e chave.

Adicione qualquer endpoint compatível com OpenAI com nome, URL base e chave de API. O provedor e a chave ficam só no seu banco de dados local.

Modelos personalizados aparecem no seletor de modelos junto aos do catálogo. Uma conversa pode alternar entre eles livremente.

Formulário de provedor personalizado com nome, URL do endpoint, chave de API, formato e a lista de modelos

Busque a lista de modelos do provedor automaticamente ou adicione ids de modelo à mão. Cada modelo é do tipo texto ou imagem. Modelos do tipo imagem alimentam o gerador de imagens, não a lista do chat.

Cada entrada de modelo carrega as próprias configurações, incluindo o tokenizador usado no orçamento.

A contagem de tokens comanda o corte do histórico e os orçamentos de lorebook, então o tokenizador certo importa em chats longos. Cada modelo personalizado escolhe entre 13 predefinições:

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

Ou aponte para qualquer tokenizador do HuggingFace por slug ou URL:

text
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

Tokenizadores do HuggingFace baixam uma vez e ficam em cache local. A contagem nunca bloqueia um envio: se um tokenizador falhar ao carregar, um reserva aproximado conta no lugar.

Modelos do catálogo podem ser roteados por um grupo de cobrança que serve de base para chats novos. Modelos de provedores personalizados não passam pelo roteamento, então o grupo não tem efeito sobre eles.

Requisições a provedores próprios vão direto do seu navegador para o seu endpoint. Os servidores do UnoRouter nunca veem a requisição, a resposta nem a sua chave do provedor.