כיצד לחבר כל LLM ל-SillyTavern
SillyTavern יכול לדבר עם כמעט כל מודל דרך נקודת קצה אחת תואמת OpenAI. הנה ההגדרה המדויקת, כיצד להחליף מודלים, וכיצד לתקן שגיאות נפוצות.
SillyTavern הוא frontend, לא מארח מודלים. כדי להשתמש בו אתם מפנים אותו לנקודת קצה תואמת OpenAI ומדביקים מפתח, ואז הוא יכול לנהוג כמעט בכל מודל מאחורי אותה נקודת קצה. הדרך הנקייה ביותר להגיע להרבה מודלים היא שער, אז מפתח אחד וכתובת בסיס פותחים את כל הקטלוג במקום ספק יחיד. הנה ההגדרה המדויקת, ועוד כיצד להחליף מודלים ולתקן את השגיאות שאנשים בדרך כלל נתקלים בהן.
מה צריך קודם
שלושה דברים: התקנת SillyTavern פעילה, נקודת קצה תואמת OpenAI, ומפתח עבורה. שער מכסה את השניים האחרונים בבת אחת, כי הוא נותן לכם כתובת בסיס אחת ומפתח אחד שמגיעים להרבה מודלים. עם UnoRouter אתם יוצרים חשבון, לוקחים את המפתח, ומוכנים; יש שכבה חינמית כדי שתבדקו דמות לפני שתוציאו דבר. שמרו את המפתח בהישג יד ואל תדביקו אותו בשום מקום ציבורי.
שלבי ההגדרה
ב-SillyTavern, פתחו את לוח ה-API ובחרו Chat Completion, ואז את המקור תואם OpenAI (Custom). הגדירו את כתובת ה-URL הבסיסית ל-https://api.unorouter.com/v1, הדביקו את מפתח UnoRouter שלכם, ולחצו כדי לטעון את רשימת המודלים. בחרו מודל מהתפריט הנפתח ושלחו הודעת בדיקה. הדמויות, ספרי הידע וההגדרות הקבועות מראש שלכם עובדים ללא שינוי, כי SillyTavern היה צריך רק נקודת קצה ומפתח. אותו מפתח עובד גם ב-Janitor.AI, RisuAI ו-Chub.
החלפת מודלים אחר כך
מכיוון שהכול עובר דרך נקודת קצה אחת, החלפת מודלים היא רק בחירת פריט אחר בתפריט המודלים הנפתח; שום חשבון, מפתח או כתובת בסיס חדשים. זה מאפשר לכם להריץ מודל חינמי זול בזמן שאתם בונים סצנה, ואז לעבור למודל בתשלום חזק יותר לרגע שחשוב. עם יותר מ-200 מודלים על מפתח אחד אתם יכולים להתאים את המודל לסצנה במקום להסתפק במה שספק יחיד מציע.
שגיאות נפוצות ותיקונים
אם רשימת המודלים לא נטענת, בדקו שוב שכתובת הבסיס מסתיימת ב-/v1 ושהמפתח מודבק בלי רווחים תועים. שגיאה 401 פירושה שהמפתח שגוי או פג; העתיקו אותו מחדש. שגיאה 404 על מודל פירושה ששם המודל הזה לא נבחר מהרשימה שנטענה. אם התשובות נקטעות, העלו את אורך התשובה בהגדרות של SillyTavern. רוב כשלי ההגדרה הם כתובת בסיס עם שגיאת הקלדה או מפתח עם רווחים, אז בדקו אותם קודם.
זה כל הטריק
חיבור כל LLM ל-SillyTavern מסתכם בנקודת קצה אחת תואמת OpenAI ומפתח, ושער הופך זאת למודלים רבים מאחורי הגדרה אחת. UnoRouter נותן לכם את כתובת ה-URL הבסיסית הזו, שכבה חינמית להתחלה, ויותר מ-200 מודלים שתוכלו לעבור ביניהם בלי לעשות שום דבר מחדש. הגדירו פעם אחת ואותו מפתח עוקב אחריכם בכל ממשק צ'אט דמויות.
מוכנים לחבר את SillyTavern? צרו חשבון חינם או עיינו במודלים.
Nevika מקבל כל נקודת קצה תואמת OpenAI כפרוקסי מותאם. הנה ההגדרה של דקה אחת, איזה מודל לבחור, ושתי השגיאות שהכי נתקלים בהן.
שחקן תפקידים מדרג שלוש גרסאות של Claude Opus ב-UnoRouter: זיכרון, עומק רגשי, יוזמה וכתיבה יצירתית. 4.8 מנצחת, 4.6 גוברת על 4.7, וכל אחת מנצחת או מועדת במקום ברור.
SpicyChat הוא אתר RP בלי הגדרות שהזיכרון וההקשר שלו חסומים מאחורי שכבות בתשלום. UnoRouter שומר על ההתחלה הקלה אבל מוסיף יותר מ-200 מודלים שאתם בוחרים, lorebooks עמוקים, ומפתח שגם מריץ סוכני קוד.