פורסם
מוצר

כיצד לחבר כל LLM ל-SillyTavern

SillyTavern יכול לדבר עם כמעט כל מודל דרך נקודת קצה אחת תואמת OpenAI. הנה ההגדרה המדויקת, כיצד להחליף מודלים, וכיצד לתקן שגיאות נפוצות.

·קריאה של 3 דקות·מאת צוות UnoRouter
מוצר

SillyTavern הוא frontend, לא מארח מודלים. כדי להשתמש בו אתם מפנים אותו לנקודת קצה תואמת OpenAI ומדביקים מפתח, ואז הוא יכול לנהוג כמעט בכל מודל מאחורי אותה נקודת קצה. הדרך הנקייה ביותר להגיע להרבה מודלים היא שער, אז מפתח אחד וכתובת בסיס פותחים את כל הקטלוג במקום ספק יחיד. הנה ההגדרה המדויקת, ועוד כיצד להחליף מודלים ולתקן את השגיאות שאנשים בדרך כלל נתקלים בהן.

מה צריך קודם

שלושה דברים: התקנת SillyTavern פעילה, נקודת קצה תואמת OpenAI, ומפתח עבורה. שער מכסה את השניים האחרונים בבת אחת, כי הוא נותן לכם כתובת בסיס אחת ומפתח אחד שמגיעים להרבה מודלים. עם UnoRouter אתם יוצרים חשבון, לוקחים את המפתח, ומוכנים; יש שכבה חינמית כדי שתבדקו דמות לפני שתוציאו דבר. שמרו את המפתח בהישג יד ואל תדביקו אותו בשום מקום ציבורי.

שלבי ההגדרה

ב-SillyTavern, פתחו את לוח ה-API ובחרו Chat Completion, ואז את המקור התואם OpenAI (Custom). הגדירו את כתובת הבסיס ל-https://api.unorouter.com/v1, הדביקו את מפתח UnoRouter, ולחצו לטעון את רשימת המודלים. בחרו מודל מהתפריט הנפתח ושלחו הודעת בדיקה. הדמויות, ספרי הידע וההגדרות המוכנות שלכם רצים ללא שינוי, כי ל-SillyTavern היה צריך רק נקודת קצה ומפתח. אותו מפתח עובד גם ב-Janitor.AI, RisuAI ו-Chub.

החלפת מודלים אחר כך

מכיוון שהכול עובר דרך נקודת קצה אחת, החלפת מודלים היא רק בחירת פריט אחר בתפריט המודלים הנפתח; שום חשבון, מפתח או כתובת בסיס חדשים. זה מאפשר לכם להריץ מודל חינמי זול בזמן שאתם בונים סצנה, ואז לעבור למודל בתשלום חזק יותר לרגע שחשוב. עם יותר מ-200 מודלים על מפתח אחד אתם יכולים להתאים את המודל לסצנה במקום להסתפק במה שספק יחיד מציע.

שגיאות נפוצות ותיקונים

אם רשימת המודלים לא נטענת, בדקו שוב שכתובת הבסיס מסתיימת ב-/v1 ושהמפתח מודבק בלי רווחים תועים. שגיאה 401 פירושה שהמפתח שגוי או פג; העתיקו אותו מחדש. שגיאה 404 על מודל פירושה ששם המודל הזה לא נבחר מהרשימה שנטענה. אם התשובות נקטעות, העלו את אורך התשובה בהגדרות של SillyTavern. רוב כשלי ההגדרה הם כתובת בסיס עם שגיאת הקלדה או מפתח עם רווחים, אז בדקו אותם קודם.

זה כל הטריק

חיבור כל LLM ל-SillyTavern מסתכם בנקודת קצה אחת תואמת OpenAI ובמפתח, ושער הופך את זה להרבה מודלים מאחורי הגדרה אחת. UnoRouter נותן לכם את כתובת הבסיס הזו, שכבה חינמית להתחלה, ויותר מ-200 מודלים שביניהם תעברו בלי לעשות שום דבר מחדש. הגדירו פעם אחת ואותו מפתח עוקב אחריכם בכל ממשק RP.

מוכנים לחבר את SillyTavern? צרו חשבון חינם או עיינו במודלים.

פוסטים קשורים
כיצד לחבר כל LLM ל-SillyTavern | UnoRouter