Docs खोजें...

Documentation खोजने के लिए type करना शुरू करें

चैट गाइड

कस्टम प्रदाता

अपने एंडपॉइंट और कुंजी से चैट करें।

प्रदाता जोड़ना

नाम, बेस URL और API कुंजी के साथ कोई भी OpenAI-संगत एंडपॉइंट जोड़ें। प्रदाता और उसकी कुंजी केवल आपके स्थानीय डेटाबेस में रखे जाते हैं।

कस्टम मॉडल मॉडल चयनकर्ता में कैटलॉग मॉडलों के साथ दिखते हैं; बातचीत उनके बीच स्वतंत्र रूप से बदल सकती है।

मॉडल

प्रदाता की मॉडल सूची अपने आप लाएं या मॉडल आईडी हाथ से जोड़ें। हर मॉडल टेक्स्ट या छवि के रूप में टाइप होता है; छवि मॉडल चैट ड्रॉपडाउन के बजाय चैट के भीतर छवि जनरेटर को खिलाते हैं।

मॉडल प्रविष्टियां अपनी सेटिंग्स रखती हैं, जिसमें बजट के लिए उपयोग होने वाला टोकनाइज़र शामिल है।

प्रति-मॉडल टोकनाइज़र

टोकन गणना इतिहास छंटाई और लोरबुक बजट चलाती है, इसलिए लंबी चैट में सही टोकनाइज़र मायने रखता है। हर कस्टम मॉडल 13 प्रीसेट में से चुनता है:

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

या slug या URL से किसी भी HuggingFace टोकनाइज़र की ओर इशारा करें:

text
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

HuggingFace टोकनाइज़र एक बार डाउनलोड होकर स्थानीय रूप से कैश होते हैं। गणना कभी भेजना नहीं रोकती: यदि कोई टोकनाइज़र लोड में विफल हो, तो अनुमानित फ़ॉलबैक उसके स्थान पर गिनता है।

बिलिंग समूह

कैटलॉग मॉडल नई चैट को बीजने वाले बिलिंग समूह से रूट हो सकते हैं। कस्टम प्रदाता के मॉडल रूटिंग को पूरी तरह छोड़ देते हैं, इसलिए समूह का उन पर कोई असर नहीं।

गोपनीयता

कस्टम प्रदाताओं को अनुरोध आपके ब्राउज़र से सीधे आपके एंडपॉइंट पर जाते हैं। UnoRouter के सर्वर कभी अनुरोध, उत्तर या आपकी प्रदाता कुंजी नहीं देखते।

UnoRouter में कस्टम प्रदाता