किसी भी LLM को SillyTavern से कैसे जोड़ें

SillyTavern एक फ़्रंटएंड है, मॉडल होस्ट नहीं. इसे इस्तेमाल करने के लिए आप इसे एक OpenAI-संगत एंडपॉइंट पर इंगित करते हैं और एक कुंजी चिपकाते हैं, और तब यह उस एंडपॉइंट के पीछे लगभग किसी भी मॉडल को चला सकता है. कई मॉडलों तक पहुँचने का सबसे साफ़ तरीका एक गेटवे है, ताकि एक कुंजी और बेस URL एक अकेले प्रदाता के बजाय पूरा कैटलॉग खोल दें. यहाँ सटीक सेटअप है, साथ ही मॉडल कैसे बदलें और वे त्रुटियाँ कैसे ठीक करें जिनसे लोग आम तौर पर टकराते हैं.

पहले आपको क्या चाहिए

तीन चीज़ें: एक चलता SillyTavern इंस्टॉल, एक OpenAI-संगत एंडपॉइंट, और उसके लिए एक कुंजी. एक गेटवे आख़िरी दो को एक साथ ढक देता है, क्योंकि वह आपको एक बेस URL और एक कुंजी देता है जो कई मॉडलों तक पहुँचती है. UnoRouter के साथ आप एक खाता बनाते हैं, अपनी कुंजी लेते हैं, और तैयार हैं; एक मुफ़्त स्तर है ताकि कुछ ख़र्च करने से पहले आप एक कैरेक्टर परख सकें. अपनी कुंजी पास रखें और इसे कहीं भी सार्वजनिक न चिपकाएँ.

सेटअप के चरण

SillyTavern में, API पैनल खोलें और Chat Completion चुनें, फिर OpenAI-संगत (Custom) स्रोत. बेस URL को https://api.unorouter.com/v1 पर सेट करें, अपनी UnoRouter कुंजी चिपकाएँ, और मॉडल सूची लोड करने के लिए क्लिक करें. ड्रॉपडाउन से एक मॉडल चुनें और एक परीक्षण संदेश भेजें. आपके कैरेक्टर, लोरबुक और प्रीसेट बिना बदलाव के चलते हैं, क्योंकि SillyTavern को सिर्फ़ एक एंडपॉइंट और एक कुंजी चाहिए थी. वही कुंजी Janitor.AI, RisuAI और Chub में भी चलती है.

बाद में मॉडल बदलना

चूँकि सब कुछ एक एंडपॉइंट से होकर जाता है, मॉडल बदलना बस मॉडल ड्रॉपडाउन में दूसरी प्रविष्टि चुनना है; कोई नया खाता, कुंजी या बेस URL नहीं. इससे आप दृश्य बनाते समय एक सस्ता मुफ़्त मॉडल चला सकते हैं, फिर जो पल मायने रखता है उसके लिए एक मज़बूत सशुल्क मॉडल पर स्विच कर सकते हैं. एक कुंजी पर 200 से ज़्यादा मॉडलों के साथ आप एक अकेले प्रदाता की पेशकश से समझौता करने के बजाय मॉडल को दृश्य से मिला सकते हैं.

आम त्रुटियाँ और समाधान

अगर मॉडल सूची लोड नहीं होती, दोबारा जाँचें कि बेस URL /v1 पर समाप्त होता है और कुंजी बिना भटके स्थानों के चिपकी है. 401 का मतलब कुंजी ग़लत या समाप्त है; इसे फिर से कॉपी करें. किसी मॉडल पर 404 का मतलब वह मॉडल नाम लोड हुई सूची से नहीं चुना गया. अगर जवाब कट जाते हैं, SillyTavern की सेटिंग में प्रतिक्रिया लंबाई बढ़ाएँ. ज़्यादातर सेटअप विफलताएँ ग़लत टाइप किया बेस URL या स्थानों वाली कुंजी होती हैं, इसलिए पहले उन्हें जाँचें.

बस यही पूरी तरकीब है

किसी भी LLM को SillyTavern से जोड़ना एक OpenAI-संगत एंडपॉइंट और एक कुंजी पर सिमट जाता है, और एक गेटवे उसे एक अकेले सेटअप के पीछे कई मॉडलों में बदल देता है. UnoRouter आपको वह बेस URL देता है, शुरू करने के लिए एक मुफ़्त स्तर, और 200 से ज़्यादा मॉडल जिनके बीच आप बिना कुछ दोहराए बदल सकते हैं. एक बार सेट करें और वही कुंजी हर RP फ़्रंटएंड में आपका साथ देती है.

SillyTavern जोड़ने को तैयार हैं? मुफ़्त खाता बनाएँ या मॉडल देखें.