Yayınlandı
Ürün

Herhangi bir LLM SillyTavern'e nasıl bağlanır

SillyTavern, OpenAI uyumlu tek bir uç nokta üzerinden neredeyse her modelle konuşabilir. İşte tam kurulum, modeller nasıl değiştirilir ve sık hatalar nasıl düzeltilir.

·3 dk okuma·UnoRouter ekibi tarafından
ürün

SillyTavern bir ön yüzdür, model barındırıcısı değil. Kullanmak için onu OpenAI uyumlu bir uç noktaya yöneltir ve bir anahtar yapıştırırsınız, sonra o uç noktanın arkasındaki neredeyse her modeli sürebilir. Çok sayıda modele ulaşmanın en temiz yolu bir ağ geçididir, böylece tek bir anahtar ve temel URL, tek bir sağlayıcı yerine tüm kataloğu açar. İşte tam kurulum, artı modeller nasıl değiştirilir ve insanların genelde çarptığı hatalar nasıl düzeltilir.

Önce neye ihtiyacınız var

Uç şey: çalışan bir SillyTavern kurulumu, OpenAI uyumlu bir uç nokta ve bunun için bir anahtar. Bir ağ geçidi son ikisini birden kapsar, çünkü size çok sayıda modele ulaşan bir temel URL ve bir anahtar verir. UnoRouter ile bir hesap oluşturur, anahtarınızı alır ve hazırsınız; ücretsiz bir katman var, böylece bir şey harcamadan önce bir karakteri test edebilirsiniz. Anahtarınızı el altında tutun ve hiçbir yerde herkese açık yapıştırmayın.

Kurulum adımları

SillyTavern'de API panelini açın ve Chat Completion'ı, sonra OpenAI uyumlu (Custom) kaynağı seçin. Temel URL'yi https://api.unorouter.com/v1 olarak ayarlayın, UnoRouter anahtarınızı yapıştırın ve model listesini yüklemek için tıklayın. Açılır menüden bir model seçin ve bir test mesajı gönderin. Karakterleriniz, lorebook'larınız ve presetleriniz değişmeden çalışır, çünkü SillyTavern'in yalnızca bir uç nokta ve bir anahtara ihtiyacı vardı. Aynı anahtar Janitor.AI, RisuAI ve Chub'da da çalışır.

Modelleri sonra değiştirmek

Her şey tek bir uç noktadan geçtiği için modelleri değiştirmek yalnızca model açılır menüsünden başka bir girdi seçmektir; yeni hesap, anahtar ya da temel URL yok. Bu, bir sahne kurarken ucuz ücretsiz bir modeli çalıştırmanıza, sonra önemli an için daha güçlü ücretli bir modele geçmenize olanak tanır. Tek anahtarda 200'den fazla modelle, tek bir sağlayıcının sunduğu seye razı olmak yerine modeli sahneye eşleştirebilirsiniz.

Sık hatalar ve çözümleri

Model listesi yüklenmiyorsa, temel URL'nin /v1 ile bittiğini ve anahtarın baskara boşluk olmadan yapıştırıldığını yeniden kontrol edin. 401, anahtarın yanlış ya da süresinin dolmuş olduğu anlamına gelir; tekrar kopyalayın. Bir modelde 404, o model adinin yüklenen listeden seçilmediği anlamına gelir. Yanıtlar kesiliyorsa, SillyTavern ayarlarında yanıt uzunluğunu yükseltin. Çoğu kurulum hatası yanlış yazılmış bir temel URL ya da boslukli bir anahtardir, bu yüzden önce bunları kontrol edin.

Bütün hile bu

Herhangi bir LLM'i SillyTavern'e bağlamak, OpenAI uyumlu bir uç nokta artı bir anahtara iner ve bir ağ geçidi bunu tek bir kurulumun ardındaki birçok modele dönüştürür. UnoRouter size o temel URL'yi, başlamak için ücretsiz bir katmanı ve hiçbir şeyi yeniden yapmadan aralarında geçiş yapabileceğiniz 200+ modeli verir. Bir kez ayarlayın ve aynı anahtar sizi her karakter sohbeti ön yüzünde takip eder.

SillyTavern'i bağlamaya hazır mısınız? Ücretsiz hesap oluşturun ya da modellere göz atın.

İlgili yazılar