AnythingLLM एकीकरण गाइड

अवलोकन

AnythingLLM UnoRouter को Generic OpenAI प्रदाता मानता है। मॉडल टाइप करें, संदर्भ विंडो सेट करें, सहेजें।

त्वरित कॉन्फ़िग

इन्हें क्लाइंट में पेस्ट करें। साइन इन होने पर आपकी कुंजी अपने आप भर जाती है।

बेस URL: https://api.unorouter.com/v1
API कुंजी: YOUR_API_KEY

संगतता

चरण-दर-चरण सेटअप

1. 1
   LLM Preference खोलें

   साइडबार में Settings खोलें, फिर LLM Preference।

2. 2
   Generic OpenAI चुनें

   LLM Provider को Generic OpenAI पर सेट करें और फ़ॉर्म भरें। Max Tokens का डिफ़ॉल्ट मान 1024 है और यह हर उत्तर को सीमित कर देता है, इसलिए इसे बढ़ाएँ।

   text

   Base URL: https://api.unorouter.com/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Model context window: 50000
   Max Tokens: 8192

   अपनी API key auto-fill करने के लिए साइन इन करें

3. 3
   सहेजें

   सहेजें। AnythingLLM चैट वर्कस्पेस के लिए UnoRouter इस्तेमाल करता है।

अनुशंसित मॉडल

यहाँ काम करने वाले मुफ़्त मॉडल। कोई भी मॉडल id क्लाइंट में पेस्ट करें।

ध्यान देने योग्य बातें

• !Base URL और API Key सेट होते ही Generic OpenAI मॉडल सूची ले आता है। अगर यह विफल हो जाए तो यह फ़ील्ड एक टेक्स्ट बॉक्स बन जाती है, ऐसे में मॉडल आईडी खुद टाइप करें।
• !Embedding Preference अलग टैब है। जब तक आपके प्लान में UnoRouter एम्बेडिंग न दे, इसे किसी चालू एम्बेडिंग प्रदाता पर ही रहने दें।