Dipublikasikan
Produk

Cara menghubungkan LLM apa pun ke SillyTavern

SillyTavern bisa berbicara dengan hampir semua model lewat satu endpoint kompatibel OpenAI. Inilah penyiapan persisnya, cara berganti model, dan cara memperbaiki galat umum.

·3 mnt baca·Oleh Tim UnoRouter
produk

SillyTavern adalah frontend, bukan host model. Untuk memakainya, Anda mengarahkannya ke endpoint kompatibel OpenAI dan menempelkan kunci, lalu ia bisa menggerakkan hampir semua model di balik endpoint itu. Cara terbersih menjangkau banyak model adalah gateway, jadi satu kunci dan URL dasar membuka seluruh katalog alih-alih satu penyedia. Inilah penyiapan persisnya, plus cara berganti model dan memperbaiki galat yang biasanya ditemui orang.

Apa yang Anda butuhkan dulu

Tiga hal: instalasi SillyTavern yang berjalan, endpoint kompatibel OpenAI, dan kunci untuknya. Gateway menutup dua yang terakhir sekaligus, karena memberi Anda satu URL dasar dan satu kunci yang menjangkau banyak model. Dengan UnoRouter Anda membuat akun, mengambil kunci, dan siap; ada tingkat gratis agar Anda bisa menguji karakter sebelum mengeluarkan apa pun. Simpan kunci Anda dekat dan jangan menempelkannya di tempat publik mana pun.

Langkah-langkah penyiapan

Di SillyTavern, buka panel API dan pilih Chat Completion, lalu sumber yang kompatibel dengan OpenAI (Custom). Atur URL dasar ke https://api.unorouter.com/v1, tempel kunci UnoRouter Anda, dan klik untuk memuat daftar model. Pilih model dari dropdown dan kirim pesan uji. Karakter, lorebook, dan preset Anda berfungsi tanpa perubahan, karena SillyTavern hanya butuh endpoint dan kunci. Kunci yang sama juga berfungsi di Janitor.AI, RisuAI, dan Chub.

Berganti model nanti

Karena semuanya lewat satu endpoint, berganti model hanya memilih entri lain di menu drop-down model; tanpa akun, kunci, atau URL dasar baru. Itu membuat Anda bisa menjalankan model gratis yang murah sembari menyusun adegan, lalu beralih ke model berbayar yang lebih kuat untuk momen yang penting. Dengan lebih dari 200 model pada satu kunci, Anda bisa mencocokkan model dengan adegan alih-alih puas dengan apa pun yang ditawarkan satu penyedia.

Galat umum dan perbaikannya

Jika daftar model tak mau dimuat, periksa lagi bahwa URL dasar diakhiri /v1 dan kunci ditempel tanpa spasi liar. 401 berarti kunci salah atau kedaluwarsa; salin lagi. 404 pada model berarti nama model itu tak terpilih dari daftar yang dimuat. Jika balasan terpotong, naikkan panjang respons di pengaturan SillyTavern. Kebanyakan kegagalan penyiapan adalah URL dasar yang salah ketik atau kunci dengan spasi, jadi periksa itu dulu.

Itulah seluruh triknya

Menghubungkan LLM apa pun ke SillyTavern bermuara pada satu endpoint yang kompatibel dengan OpenAI plus sebuah kunci, dan sebuah gateway mengubahnya menjadi banyak model di balik satu pengaturan. UnoRouter memberi Anda URL dasar itu, tingkat gratis untuk memulai, dan 200+ model yang bisa Anda alihkan tanpa mengulangi apa pun. Atur sekali dan kunci yang sama mengikuti Anda di setiap front-end obrolan karakter.

Siap menghubungkan SillyTavern? Buat akun gratis atau jelajahi model.

Postingan terkait