Jak podłączyć dowolny LLM do SillyTavern
SillyTavern może rozmawiać z niemal każdym modelem przez jeden punkt końcowy zgodny z OpenAI. Oto dokładna konfiguracja, jak zmieniać modele i jak naprawiać częste błędy.
SillyTavern to frontend, nie host modeli. Aby go używać, kierujesz go na punkt końcowy zgodny z OpenAI i wklejasz klucz, a wtedy może prowadzić niemal każdy model za tym punktem końcowym. Najczystszym sposobem na dosięgnięcie wielu modeli jest brama, więc jeden klucz i bazowy URL odblokowują cały katalog zamiast jednego dostawcy. Oto dokładna konfiguracja plus jak zmieniać modele i naprawiać błędy, na które ludzie zwykle trafiają.
Czego potrzebujesz najpierw
Trzech rzeczy: działającej instalacji SillyTavern, punktu końcowego zgodnego z OpenAI i klucza do niego. Brama pokrywa dwie ostatnie naraz, bo daje ci jeden bazowy URL i jeden klucz, które dosięgają wielu modeli. Z UnoRouter zakładasz konto, bierzesz swój klucz i jesteś gotowy; jest darmowy poziom, więc możesz przetestować postać, zanim cokolwiek wydasz. Trzymaj klucz pod ręką i nie wklejaj go nigdzie publicznie.
Kroki konfiguracji
W SillyTavern otwórz panel API i wybierz Chat Completion, a potem źródło zgodne z OpenAI (Custom). Ustaw bazowy adres URL na https://api.unorouter.com/v1, wklej swój klucz UnoRouter i kliknij, by wczytać listę modeli. Wybierz model z listy rozwijanej i wyślij wiadomość testową. Twoje postacie, lorebooki i presety działają bez zmian, bo SillyTavern potrzebował tylko endpointu i klucza. Ten sam klucz działa też w Janitor.AI, RisuAI i Chub.
Zmiana modeli później
Ponieważ wszystko idzie przez jeden punkt końcowy, zmiana modeli to po prostu wybór innej pozycji na liście rozwijanej; żadnego nowego konta, klucza ani bazowego URL. To pozwala ci uruchomić tani darmowy model podczas budowania sceny, a potem przełączyć na mocniejszy płatny model na moment, który się liczy. Z ponad 200 modelami na jednym kluczu możesz dopasować model do sceny zamiast godzić się na to, co oferuje jeden dostawca.
Częste błędy i naprawy
Jeśli lista modeli się nie ładuje, sprawdź ponownie, czy bazowy URL kończy się na /v1 i czy klucz jest wklejony bez zbędnych spacji. 401 oznacza, że klucz jest błędny lub wygasł; skopiuj go ponownie. 404 na modelu oznacza, że ta nazwa modelu nie jest wybrana z załadowanej listy. Jeśli odpowiedzi się urywają, zwiększ długość odpowiedzi w ustawieniach SillyTavern. Większość awarii konfiguracji to źle wpisany bazowy URL lub klucz że spacjami, więc sprawdź to najpierw.
To cały trik
Podłączenie dowolnego LLM do SillyTavern sprowadza się do jednego endpointu zgodnego z OpenAI plus klucza, a brama zamienia to w wiele modeli za jedną konfiguracją. UnoRouter daje Ci ten bazowy adres URL, darmowy poziom na start i ponad 200 modeli, między którymi przełączasz się bez powtarzania czegokolwiek. Skonfiguruj raz, a ten sam klucz podąża za Tobą w każdym front-endzie czatu z postaciami.
Gotowy podłączyć SillyTavern? Załóż darmowe konto lub przejrzyj modele.
Nevika przyjmuje dowolny punkt końcowy zgodny z OpenAI jako własne proxy. Oto konfiguracja w minutę, jaki model wybrać i dwa błędy, które się zdarzają.
Roleplayer układa ranking trzech wersji Claude Opus na UnoRouter: pamięć, głębia emocjonalna, napęd i pisanie kreatywne. 4.8 wygrywa, 4.6 bije 4.7, a każda z nich w jakimś wyraźnym miejscu wygrywa albo traci.
SpicyChat to strona RP bez konfiguracji, której pamięć i kontekst są ograniczone płatnymi progami. UnoRouter zachowuje łatwy start, ale dodaje ponad 200 modeli do wyboru, głębokie lorebooki oraz klucz, który uruchamia też agentów do kodowania.