किसी भी LLM को SillyTavern से कैसे जोड़ें

SillyTavern एक फ़्रंटएंड है, मॉडल होस्ट नहीं. इसे इस्तेमाल करने के लिए आप इसे एक OpenAI-संगत एंडपॉइंट पर इंगित करते हैं और एक कुंजी चिपकाते हैं, और तब यह उस एंडपॉइंट के पीछे लगभग किसी भी मॉडल को चला सकता है. कई मॉडलों तक पहुँचने का सबसे साफ़ तरीका एक गेटवे है, ताकि एक कुंजी और बेस URL एक अकेले प्रदाता के बजाय पूरा कैटलॉग खोल दें. यहाँ सटीक सेटअप है, साथ ही मॉडल कैसे बदलें और वे त्रुटियाँ कैसे ठीक करें जिनसे लोग आम तौर पर टकराते हैं.

पहले आपको क्या चाहिए

तीन चीज़ें: एक चलता SillyTavern इंस्टॉल, एक OpenAI-संगत एंडपॉइंट, और उसके लिए एक कुंजी. एक गेटवे आख़िरी दो को एक साथ ढक देता है, क्योंकि वह आपको एक बेस URL और एक कुंजी देता है जो कई मॉडलों तक पहुँचती है. UnoRouter के साथ आप एक खाता बनाते हैं, अपनी कुंजी लेते हैं, और तैयार हैं; एक मुफ़्त स्तर है ताकि कुछ ख़र्च करने से पहले आप एक कैरेक्टर परख सकें. अपनी कुंजी पास रखें और इसे कहीं भी सार्वजनिक न चिपकाएँ.

सेटअप के चरण

SillyTavern में, API पैनल खोलें और Chat Completion चुनें, फिर OpenAI-संगत (Custom) स्रोत। बेस URL को https://api.unorouter.com/v1 पर सेट करें, अपनी UnoRouter कुंजी पेस्ट करें, और मॉडल सूची लोड करने के लिए क्लिक करें। ड्रॉपडाउन से एक मॉडल चुनें और एक परीक्षण संदेश भेजें। आपके किरदार, लोरबुक और प्रीसेट बिना बदलाव के काम करते हैं, क्योंकि SillyTavern को बस एक एंडपॉइंट और एक कुंजी चाहिए थी। वही कुंजी Janitor.AI, RisuAI और Chub में भी काम करती है।

बाद में मॉडल बदलना

चूँकि सब कुछ एक एंडपॉइंट से होकर जाता है, मॉडल बदलना बस मॉडल ड्रॉपडाउन में दूसरी प्रविष्टि चुनना है; कोई नया खाता, कुंजी या बेस URL नहीं. इससे आप दृश्य बनाते समय एक सस्ता मुफ़्त मॉडल चला सकते हैं, फिर जो पल मायने रखता है उसके लिए एक मज़बूत सशुल्क मॉडल पर स्विच कर सकते हैं. एक कुंजी पर 200 से ज़्यादा मॉडलों के साथ आप एक अकेले प्रदाता की पेशकश से समझौता करने के बजाय मॉडल को दृश्य से मिला सकते हैं.

आम त्रुटियाँ और समाधान

अगर मॉडल सूची लोड नहीं होती, दोबारा जाँचें कि बेस URL /v1 पर समाप्त होता है और कुंजी बिना भटके स्थानों के चिपकी है. 401 का मतलब कुंजी ग़लत या समाप्त है; इसे फिर से कॉपी करें. किसी मॉडल पर 404 का मतलब वह मॉडल नाम लोड हुई सूची से नहीं चुना गया. अगर जवाब कट जाते हैं, SillyTavern की सेटिंग में प्रतिक्रिया लंबाई बढ़ाएँ. ज़्यादातर सेटअप विफलताएँ ग़लत टाइप किया बेस URL या स्थानों वाली कुंजी होती हैं, इसलिए पहले उन्हें जाँचें.

बस यही पूरी तरकीब है

किसी भी LLM को SillyTavern से जोड़ना एक OpenAI-संगत एंडपॉइंट और एक कुंजी तक सिमट आता है, और एक गेटवे उसे एक ही सेटअप के पीछे कई मॉडलों में बदल देता है। UnoRouter आपको वह बेस URL, शुरुआत के लिए एक मुफ्त स्तर, और 200+ मॉडल देता है जिनके बीच आप बिना कुछ दोबारा किए बदल सकते हैं। एक बार सेट करें और वही कुंजी हर कैरेक्टर चैट फ्रंट-एंड में आपके साथ चलती है।

SillyTavern जोड़ने को तैयार हैं? मुफ़्त खाता बनाएँ या मॉडल देखें.