AnythingLLM

AnythingLLM एकीकरण गाइड

UnoRouter को AnythingLLM से Generic OpenAI प्रदाता के रूप में जोड़ें।

अवलोकन

AnythingLLM UnoRouter को Generic OpenAI प्रदाता के रूप में मानता है। मॉडल टाइप करें, कॉन्टेक्स्ट विंडो सेट करें और सहेजें।

इन मानों को क्लाइंट में डालें। साइन इन रहने पर आपकी कुंजी अपने आप भर जाती है।

text

बेस URL: https://api.unorouter.com/v1
API कुंजी: YOUR_API_KEY

Chat Completionsस्ट्रीमिंगटूल कॉलिंग

1
LLM Preference खोलें
साइडबार में Settings पर क्लिक करें, फिर LLM Preference।
2
Generic OpenAI चुनें
LLM Provider को Generic OpenAI पर सेट करें और फ़ॉर्म भरें।
text
Base URL: https://api.unorouter.com/v1 API Key: YOUR_API_KEY Chat Model Name: YOUR_MODEL_ID Token context window: 50000
अपनी API key auto-fill करने के लिए साइन इन करें
3
सहेजें
सहेजें दबाएँ। AnythingLLM चैट वर्कस्पेस के लिए UnoRouter का उपयोग करता है।

मुफ्त मॉडल जो यहाँ अच्छा काम करते हैं। कोई भी मॉडल आईडी क्लाइंट में पेस्ट करें।

agnes-2.0-flash:freeallam-2-7b:freebielik-11b-v3.0-instruct:freebig-pickle:freecodestral-latest:free

AnythingLLM Generic OpenAI के लिए कैटलॉग अपने आप नहीं लाता। मॉडल नाम और कॉन्टेक्स्ट विंडो मैन्युअल रूप से टाइप करें।
Embedding Preference टैब अलग है। जब तक UnoRouter आपके प्लान में embeddings न दे, इसे किसी कार्यशील embedding प्रदाता पर छोड़ दें।