Docs खोजें...

Documentation खोजने के लिए type करना शुरू करें

चैट गाइड

कस्टम प्रदाता

अपने एंडपॉइंट और कुंजी से चैट करें।

नाम, बेस URL और API कुंजी के साथ कोई भी OpenAI-संगत एंडपॉइंट जोड़ें। प्रदाता और उसकी कुंजी केवल आपके स्थानीय डेटाबेस में रखे जाते हैं।

कस्टम मॉडल कैटलॉग के मॉडलों के साथ ही मॉडल चयनकर्ता में दिखते हैं। कोई बातचीत इनके बीच बेझिझक बदल सकती है।

नाम, एंडपॉइंट URL, API कुंजी, फ़ॉर्मैट और मॉडल सूची वाला कस्टम प्रोवाइडर फ़ॉर्म

प्रदाता की मॉडल सूची अपने आप मँगाएँ या मॉडल id हाथ से जोड़ें। हर मॉडल पाठ या छवि प्रकार का होता है। छवि प्रकार के मॉडल छवि जनरेटर में जाते हैं, चैट ड्रॉपडाउन में नहीं।

मॉडल प्रविष्टियां अपनी सेटिंग्स रखती हैं, जिसमें बजट के लिए उपयोग होने वाला टोकनाइज़र शामिल है।

टोकन गणना इतिहास छंटाई और लोरबुक बजट चलाती है, इसलिए लंबी चैट में सही टोकनाइज़र मायने रखता है। हर कस्टम मॉडल 13 प्रीसेट में से चुनता है:

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

या slug या URL से किसी भी HuggingFace टोकनाइज़र की ओर इशारा करें:

text
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

HuggingFace टोकनाइज़र एक बार डाउनलोड होकर स्थानीय रूप से कैश होते हैं। गणना कभी भेजना नहीं रोकती: यदि कोई टोकनाइज़र लोड में विफल हो, तो अनुमानित फ़ॉलबैक उसके स्थान पर गिनता है।

कैटलॉग के मॉडल एक बिलिंग समूह से होकर जा सकते हैं, जो नई चैट का शुरुआती मान बनता है। कस्टम प्रदाता के मॉडल इस मार्ग से नहीं जाते, इसलिए समूह का उन पर असर नहीं पड़ता।

कस्टम प्रदाताओं को अनुरोध आपके ब्राउज़र से सीधे आपके एंडपॉइंट पर जाते हैं। UnoRouter के सर्वर कभी अनुरोध, उत्तर या आपकी प्रदाता कुंजी नहीं देखते।