Opublikowano
Produkt

Jak podlaczyc dowolny LLM do SillyTavern

SillyTavern moze rozmawiac z niemal kazdym modelem przez jeden punkt koncowy zgodny z OpenAI. Oto dokladna konfiguracja, jak zmieniac modele i jak naprawiac czeste bledy.

·3 min czytania·Autor: Zespol UnoRouter
produkt

SillyTavern to frontend, nie host modeli. Aby go uzywac, kierujesz go na punkt koncowy zgodny z OpenAI i wklejasz klucz, a wtedy moze prowadzic niemal kazdy model za tym punktem koncowym. Najczystszym sposobem na dosiegniecie wielu modeli jest brama, wiec jeden klucz i bazowy URL odblokowuja caly katalog zamiast jednego dostawcy. Oto dokladna konfiguracja plus jak zmieniac modele i naprawiac bledy, na ktore ludzie zwykle trafiaja.

Czego potrzebujesz najpierw

Trzech rzeczy: dzialajacej instalacji SillyTavern, punktu koncowego zgodnego z OpenAI i klucza do niego. Brama pokrywa dwie ostatnie naraz, bo daje ci jeden bazowy URL i jeden klucz, ktore dosiegaja wielu modeli. Z UnoRouter zakladasz konto, bierzesz swoj klucz i jestes gotowy; jest darmowy poziom, wiec mozesz przetestowac postac, zanim cokolwiek wydasz. Trzymaj klucz pod reka i nie wklejaj go nigdzie publicznie.

Kroki konfiguracji

W SillyTavern otworz panel API i wybierz Chat Completion, potem zrodlo zgodne z OpenAI (Custom). Ustaw bazowy URL na https://api.unorouter.com/v1, wklej swoj klucz UnoRouter i kliknij, by zaladowac liste modeli. Wybierz model z listy rozwijanej i wyslij wiadomosc testowa. Twoje postacie, lorebooki i presety dzialaja bez zmian, bo SillyTavern potrzebowal tylko punktu koncowego i klucza. Ten sam klucz dziala tez w Janitor.AI, RisuAI i Chub.

Zmiana modeli pozniej

Poniewaz wszystko idzie przez jeden punkt koncowy, zmiana modeli to po prostu wybor innej pozycji na liscie rozwijanej; zadnego nowego konta, klucza ani bazowego URL. To pozwala ci uruchomic tani darmowy model podczas budowania sceny, a potem przelaczyc na mocniejszy platny model na moment, ktory sie liczy. Z ponad 200 modelami na jednym kluczu mozesz dopasowac model do sceny zamiast godzic sie na to, co oferuje jeden dostawca.

Czeste bledy i naprawy

Jesli lista modeli sie nie laduje, sprawdz ponownie, czy bazowy URL konczy sie na /v1 i czy klucz jest wklejony bez zbednych spacji. 401 oznacza, ze klucz jest bledny lub wygasl; skopiuj go ponownie. 404 na modelu oznacza, ze ta nazwa modelu nie jest wybrana z zaladowanej listy. Jesli odpowiedzi sie urywaja, zwieksz dlugosc odpowiedzi w ustawieniach SillyTavern. Wiekszosc awarii konfiguracji to zle wpisany bazowy URL lub klucz ze spacjami, wiec sprawdz to najpierw.

To caly trik

Podlaczenie dowolnego LLM do SillyTavern sprowadza sie do jednego punktu koncowego zgodnego z OpenAI plus klucza, a brama zamienia to w wiele modeli za jedna konfiguracja. UnoRouter daje ci ten bazowy URL, darmowy poziom na start i ponad 200 modeli, miedzy ktorymi przeskakujesz bez powtarzania czegokolwiek. Ustaw raz, a ten sam klucz podaza za toba przez kazdy frontend RP.

Gotowy podlaczyc SillyTavern? Zaloz darmowe konto lub przejrzyj modele.

Powiązane posty
Jak podlaczyc dowolny LLM do SillyTavern | UnoRouter