Özel Sağlayıcılar
Kendi uç noktan ve anahtarınla sohbet et.
Ad, taban URL ve API anahtarıyla herhangi bir OpenAI uyumlu uç nokta ekle. Sağlayıcı ve anahtarı yalnızca yerel veritabanında saklanır.
Özel modeller model seçicide katalog modellerinin yanında görünür. Bir konuşma aralarında serbestçe geçiş yapabilir.
Sağlayıcının model listesini otomatik çekin veya model idlerini elle ekleyin. Her model metin ya da görsel türündedir. Görsel türündeki modeller sohbet açılır listesini değil, görsel üreticisini besler.
Model girdileri, bütçeleme için kullanılan tokenizer dahil kendi ayarlarını taşır.
Token sayımı geçmiş kırpmayı ve lorebook bütçelerini sürer; uzun sohbetlerde doğru tokenizer önemlidir. Her özel model 13 ön ayardan seçer:
auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere
Ya da slug veya URL ile herhangi bir HuggingFace tokenizer'ına işaret et:
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.jsonHuggingFace tokenizer'ları bir kez iner ve yerelde önbelleklenir. Sayım asla gönderimi engellemez: tokenizer yüklenmezse yaklaşık bir yedek sayar.
Katalog modelleri yeni sohbetleri hazırlayan bir faturalandırma grubu üzerinden yönlendirilebilir. Özel sağlayıcı modelleri yönlendirmeyi atlar, bu yüzden grubun onlara etkisi olmaz.
Özel sağlayıcılara istekler tarayıcından doğrudan kendi uç noktana gider. UnoRouter sunucuları isteği, yanıtı veya sağlayıcı anahtarını asla görmez.