Fornitori personalizzati

Aggiungi qualsiasi endpoint compatibile OpenAI con nome, URL base e chiave API. Il fornitore e la sua chiave restano solo nel tuo database locale.

I modelli personalizzati compaiono nel selettore accanto ai modelli del catalogo; una conversazione può passare liberamente dagli uni agli altri.

Recupera automaticamente l'elenco modelli del fornitore o aggiungi gli id a mano. Ogni modello è tipizzato testo o immagine; quelli immagine alimentano il generatore d'immagini della chat invece del menu a tendina.

Ogni voce di modello porta le proprie impostazioni, compreso il tokenizer usato per il budget.

Il conteggio dei token guida il taglio della cronologia e i budget dei lorebook, quindi il tokenizer giusto conta nelle chat lunghe. Ogni modello personalizzato sceglie tra 13 preimpostazioni:

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

Oppure punta a qualsiasi tokenizer HuggingFace tramite slug o URL:

hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

I tokenizer HuggingFace si scaricano una volta e restano in cache locale. Il conteggio non blocca mai un invio: se un tokenizer non si carica, conta al suo posto un ripiego approssimativo.

I modelli del catalogo possono essere instradati tramite un gruppo di fatturazione che precompila le nuove chat. I modelli dei fornitori personalizzati saltano del tutto l'instradamento, quindi il gruppo non ha effetto su di loro.

Le richieste ai fornitori personalizzati vanno dritte dal tuo browser al tuo endpoint. I server di UnoRouter non vedono mai la richiesta, la risposta o la chiave del fornitore.