Rechercher dans la doc...

Commencez à taper pour rechercher dans la documentation

Guide du chat

Fournisseurs personnalisés

Discutez via votre propre point d'accès et votre propre clé.

Ajoutez n'importe quel point d'accès compatible OpenAI avec un nom, une URL de base et une clé API. Le fournisseur et sa clé ne sont stockés que dans votre base de données locale.

Les modèles personnalisés apparaissent dans le sélecteur de modèles à côté des modèles du catalogue. Une conversation peut passer librement de l'un à l'autre.

Formulaire de fournisseur personnalisé avec nom, URL du point de terminaison, clé API, format et la liste des modèles

Récupérez automatiquement la liste de modèles du fournisseur ou ajoutez des ids à la main. Chaque modèle est typé texte ou image. Les modèles typés image alimentent le générateur d'images, pas la liste du chat.

Chaque entrée de modèle porte ses propres réglages, dont le tokenizer utilisé pour la budgétisation.

Le comptage de tokens pilote la coupe de l'historique et les budgets de lorebook : le bon tokenizer compte pour les longs chats. Chaque modèle personnalisé choisit parmi 13 préréglages :

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

Ou pointez vers n'importe quel tokenizer HuggingFace par slug ou URL :

text
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

Les tokenizers HuggingFace se téléchargent une fois et sont mis en cache localement. Le comptage ne bloque jamais un envoi : si un tokenizer ne charge pas, un repli approximatif compte à sa place.

Les modèles du catalogue peuvent être routés via un groupe de facturation qui amorce les nouveaux chats. Les modèles de fournisseurs personnalisés contournent le routage, le groupe n'a donc aucun effet sur eux.

Les requêtes vers les fournisseurs personnalisés partent directement de votre navigateur vers votre point d'accès. Les serveurs de UnoRouter ne voient ni la requête, ni la réponse, ni votre clé de fournisseur.