AnythingLLM
מדריך אינטגרציה של AnythingLLM
חברו את UnoRouter אל AnythingLLM כספק Generic OpenAI.
סקירה כללית
AnythingLLM מתייחס ל UnoRouter כספק Generic OpenAI. הקלידו את המודל, הגדירו את חלון ההקשר ושמרו.
הגדרה מהירה
הזינו ערכים אלה בלקוח. המפתח שלכם מתמלא אוטומטית כשאתם מחוברים.
text
כתובת URL בסיסית: https://api.unorouter.com/v1
מפתח API: YOUR_API_KEYתאימות
Chat Completionsהזרמהקריאת כלים
הגדרה שלב אחר שלב
- 1פתחו את LLM Preference
לחצו על Settings בסרגל הצד ואז LLM Preference.
- 2בחרו Generic OpenAI
הגדירו את LLM Provider ל Generic OpenAI ומלאו את הטופס.
textBase URL: https://api.unorouter.com/v1 API Key: YOUR_API_KEY Chat Model Name: YOUR_MODEL_ID Token context window: 50000 - 3שמרו
לחצו שמירה. AnythingLLM משתמש ב UnoRouter עבור מרחבי הצאט.
מודלים מומלצים
מודלים חינמיים שעובדים טוב כאן. הדביקו כל מזהה מודל בלקוח.
agnes-2.0-flash:freeallam-2-7b:freebielik-11b-v3.0-instruct:freecodestral-latest:freecommand-r:free
נקודות לתשומת לב
- AnythingLLM אינו שולף את הקטלוג אוטומטית עבור Generic OpenAI. הקלידו את שם המודל ואת חלון ההקשר ידנית.
- לשונית Embedding Preference נפרדת. השאירו אותה על ספק embedding שעובד אלא אם UnoRouter חושף embeddings בתוכנית שלכם.