UnoRouter vs LiteLLM: gateway hospedado ou proxy auto-hospedado
O LiteLLM é o proxy LLM auto-hospedado mais popular. O UnoRouter é um gateway hospedado com cliente de chat integrado. A escolha real é se você quer operar a infraestrutura você mesmo.
O LiteLLM é o proxy de referência do código aberto: um servidor Python com licença MIT que você mesmo executa. O UnoRouter resolve a mesma necessidade, hospedado, com um cliente por cima. A escolha é simples: operar o proxy ou só chamar um endpoint.
Auto-hospedado ou hospedado
O LiteLLM é software que você implanta, executa e escala. Controle total, sem intermediário, exatamente o que um time de plataforma quer. O UnoRouter é o oposto: nada para implantar ou manter vivo. Você recebe um endpoint e uma chave, e disponibilidade, roteamento e failover são problema nosso.
Configuração
O LiteLLM significa um arquivo de configuração, as chaves de cada provedor, um servidor rodando e atualizações que são suas para sempre. Com o UnoRouter você se cadastra e aponta seu cliente para https://api.unorouter.com/v1. Sem configuração, sem chaves de provedor, sem servidor para cuidar.
Não existe um LiteLLM para conversar
O LiteLLM é headless por design: cada interface você traz. O UnoRouter acrescenta um cliente de chat e personagens embutido (personas, lorebooks, presets, importação de cartões do SillyTavern), e a mesma chave encaixa no SillyTavern, Janitor.AI ou Chub. Uma chave move um agente de código e um lugar de verdade para conversar.
Custo
O LiteLLM não cobra margem, mas você paga cada provedor e carrega a infraestrutura mais o tempo de DevOps. Isso vence em alto volume com um time. O UnoRouter é pré-pago por uso em mais de 200 modelos, um saldo que não expira, sem servidores para pagar. Abaixo de escala séria, o hospedado costuma sair mais barato depois de contar as horas.
Como escolher
Tem um time de plataforma e quer margem zero? LiteLLM. Quer uma chave sem nada para implantar que funcione no seu agente de código e num cliente de chat? UnoRouter.
Quer um gateway sem nada para implantar? Crie uma conta grátis ou explore os modelos.
Usar a tag do Discord da UnoRouter encurta em 25 por cento sua janela de limite nos modelos gratuitos: um modelo que você podia chamar uma vez por minuto agora pode ser chamado a cada 45 segundos.
O Nevika aceita qualquer endpoint compatível com OpenAI como proxy personalizado. Aqui está a configuração em um minuto, qual modelo escolher e os dois erros que aparecem.
Um roleplayer classifica três versões do Claude Opus no UnoRouter: memória, profundidade emocional, iniciativa e escrita criativa. A 4.8 vence, a 4.6 supera a 4.7, e cada uma vence ou tropeça em um ponto claro.