Dipublikasikan
Produk

Cara menghubungkan LLM apa pun ke SillyTavern

SillyTavern bisa berbicara dengan hampir semua model lewat satu endpoint kompatibel OpenAI. Inilah penyiapan persisnya, cara berganti model, dan cara memperbaiki galat umum.

·3 mnt baca·Oleh Tim UnoRouter
produk

SillyTavern adalah frontend, bukan host model. Untuk memakainya, Anda mengarahkannya ke endpoint kompatibel OpenAI dan menempelkan kunci, lalu ia bisa menggerakkan hampir semua model di balik endpoint itu. Cara terbersih menjangkau banyak model adalah gateway, jadi satu kunci dan URL dasar membuka seluruh katalog alih-alih satu penyedia. Inilah penyiapan persisnya, plus cara berganti model dan memperbaiki galat yang biasanya ditemui orang.

Apa yang Anda butuhkan dulu

Tiga hal: instalasi SillyTavern yang berjalan, endpoint kompatibel OpenAI, dan kunci untuknya. Gateway menutup dua yang terakhir sekaligus, karena memberi Anda satu URL dasar dan satu kunci yang menjangkau banyak model. Dengan UnoRouter Anda membuat akun, mengambil kunci, dan siap; ada tingkat gratis agar Anda bisa menguji karakter sebelum mengeluarkan apa pun. Simpan kunci Anda dekat dan jangan menempelkannya di tempat publik mana pun.

Langkah-langkah penyiapan

Di SillyTavern, buka panel API dan pilih Chat Completion, lalu sumber kompatibel OpenAI (Custom). Setel URL dasar ke https://api.unorouter.com/v1, tempel kunci UnoRouter Anda, dan klik untuk memuat daftar model. Pilih model dari menu drop-down dan kirim pesan uji. Karakter, lorebook, dan preset Anda berjalan tanpa perubahan, karena SillyTavern hanya perlu endpoint dan kunci. Kunci yang sama juga bekerja di Janitor.AI, RisuAI, dan Chub.

Berganti model nanti

Karena semuanya lewat satu endpoint, berganti model hanya memilih entri lain di menu drop-down model; tanpa akun, kunci, atau URL dasar baru. Itu membuat Anda bisa menjalankan model gratis yang murah sembari menyusun adegan, lalu beralih ke model berbayar yang lebih kuat untuk momen yang penting. Dengan lebih dari 200 model pada satu kunci, Anda bisa mencocokkan model dengan adegan alih-alih puas dengan apa pun yang ditawarkan satu penyedia.

Galat umum dan perbaikannya

Jika daftar model tak mau dimuat, periksa lagi bahwa URL dasar diakhiri /v1 dan kunci ditempel tanpa spasi liar. 401 berarti kunci salah atau kedaluwarsa; salin lagi. 404 pada model berarti nama model itu tak terpilih dari daftar yang dimuat. Jika balasan terpotong, naikkan panjang respons di pengaturan SillyTavern. Kebanyakan kegagalan penyiapan adalah URL dasar yang salah ketik atau kunci dengan spasi, jadi periksa itu dulu.

Itulah seluruh triknya

Menghubungkan LLM apa pun ke SillyTavern berujung pada satu endpoint kompatibel OpenAI plus kunci, dan gateway mengubahnya menjadi banyak model di balik satu penyiapan. UnoRouter memberi Anda URL dasar itu, tingkat gratis untuk mulai, dan lebih dari 200 model untuk diganti tanpa mengulang apa pun. Siapkan sekali dan kunci yang sama mengikuti Anda di setiap frontend RP.

Siap menghubungkan SillyTavern? Buat akun gratis atau jelajahi model.

Postingan terkait
Cara menghubungkan LLM apa pun ke SillyTavern | UnoRouter