Własni dostawcy
Czatuj przez własny endpoint i własny klucz.
Dodawanie dostawcy
Dodaj dowolny endpoint zgodny z OpenAI z nazwą, bazowym URL i kluczem API. Dostawca i jego klucz są przechowywane wyłącznie w twojej lokalnej bazie.
Własne modele pojawiają się w wyborze modeli obok katalogowych; rozmowa może się między nimi swobodnie przełączać.
Modele
Pobierz listę modeli dostawcy automatycznie albo dodaj id ręcznie. Każdy model jest typu tekst lub obraz; modele obrazowe zasilają generator obrazów czatu zamiast listy modeli czatu.
Wpisy modeli niosą własne ustawienia, w tym tokenizer używany do budżetowania.
Tokenizery per model
Liczenie tokenów steruje przycinaniem historii i budżetami lorebooków, więc właściwy tokenizer ma znaczenie w długich czatach. Każdy własny model wybiera z 13 presetów:
auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere
Albo wskaż dowolny tokenizer HuggingFace przez slug lub URL:
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.jsonTokenizery HuggingFace pobierają się raz i są keszowane lokalnie. Liczenie nigdy nie blokuje wysyłki: gdy tokenizer się nie wczyta, liczy przybliżony zapasowy.
Grupa rozliczeń
Modele katalogowe mogą iść przez grupę rozliczeń zasiewającą nowe czaty. Modele własnych dostawców całkiem omijają routing, więc grupa nie ma na nie wpływu.
Prywatność
Żądania do własnych dostawców idą prosto z twojej przeglądarki na twój endpoint. Serwery UnoRouter nigdy nie widzą żądania, odpowiedzi ani twojego klucza dostawcy.