Pubblicato
Prodotto

Come collegare qualsiasi LLM a SillyTavern

SillyTavern puo parlare con quasi qualsiasi modello tramite un endpoint compatibile con OpenAI. Ecco la configurazione esatta, come cambiare modelli e come correggere gli errori comuni.

·3 min di lettura·Di Team UnoRouter
prodotto

SillyTavern e un frontend, non un host di modelli. Per usarlo lo punti su un endpoint compatibile con OpenAI e incolli una chiave, e poi puo guidare quasi qualsiasi modello dietro quell'endpoint. Il modo piu pulito per raggiungere molti modelli e un gateway, cosi una chiave e una URL di base sbloccano l'intero catalogo invece di un solo fornitore. Ecco la configurazione esatta, piu come cambiare modelli e correggere gli errori che le persone di solito incontrano.

Cosa ti serve prima

Tre cose: un'installazione di SillyTavern in funzione, un endpoint compatibile con OpenAI e una chiave per esso. Un gateway copre le ultime due in una volta, perche ti da una URL di base e una chiave che raggiungono molti modelli. Con UnoRouter crei un account, prendi la tua chiave e sei pronto; c'e un livello gratuito cosi puoi provare un personaggio prima di spendere qualcosa. Tieni la tua chiave a portata e non incollarla da nessuna parte in pubblico.

I passaggi di configurazione

In SillyTavern, apri il pannello API e scegli Chat Completion, poi la sorgente compatibile con OpenAI (Custom). Imposta la URL di base su https://api.unorouter.com/v1, incolla la tua chiave UnoRouter e clicca per caricare la lista dei modelli. Scegli un modello dal menu a tendina e invia un messaggio di prova. I tuoi personaggi, lorebook e preset funzionano senza modifiche, perche a SillyTavern serviva solo un endpoint e una chiave. La stessa chiave funziona anche in Janitor.AI, RisuAI e Chub.

Cambiare modelli in seguito

Poiche tutto passa per un endpoint, cambiare modelli e solo scegliere un'altra voce nel menu a tendina; nessun nuovo account, chiave o URL di base. Questo ti lascia far girare un modello gratuito ed economico mentre costruisci una scena, poi passare a un modello a pagamento piu forte per il momento che conta. Con oltre 200 modelli su una chiave puoi abbinare il modello alla scena invece di accontentarti di cio che offre un solo fornitore.

Errori comuni e correzioni

Se la lista dei modelli non carica, ricontrolla che la URL di base finisca in /v1 e che la chiave sia incollata senza spazi vaganti. Un 401 significa che la chiave e sbagliata o scaduta; copiala di nuovo. Un 404 su un modello significa che quel nome di modello non e scelto dalla lista caricata. Se le risposte si tagliano, alza la lunghezza di risposta nelle impostazioni di SillyTavern. La maggior parte dei fallimenti di configurazione sono una URL di base scritta male o una chiave con spazi, quindi controlla prima quelli.

Questo e tutto il trucco

Collegare qualsiasi LLM a SillyTavern si riduce a un endpoint compatibile con OpenAI piu una chiave, e un gateway lo trasforma in molti modelli dietro una sola configurazione. UnoRouter ti da quella URL di base, un livello gratuito per iniziare e oltre 200 modelli tra cui passare senza rifare nulla. Configuralo una volta e la stessa chiave ti segue su ogni frontend di gioco di ruolo.

Pronto a collegare SillyTavern? Crea un account gratuito o esplora i modelli.

Post correlati
Come collegare qualsiasi LLM a SillyTavern | UnoRouter