llama-3.1-70b-instruct
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases. It has demonstrated strong...
क्षमताएं
मोडेलिटी
त्वरित आंकड़े
प्रदर्शन
समर्थित पैरामीटर
| पैरामीटर | हमेशा | डिफ़ॉल्ट |
|---|---|---|
| frequency_penalty | - | - |
| logit_bias | - | - |
| max_tokens | - | |
| min_p | - | - |
| presence_penalty | - | - |
| repetition_penalty | - | - |
| response_format | - | - |
| seed | - | - |
| stop | - | |
| structured_outputs | - | - |
| temperature | - | |
| tool_choice | - | - |
| tools | - | - |
| top_k | - | |
| top_p | - |
मूल्य निर्धारण
| इनपुट मूल्य | $0.00 · 1M टोकन |
| आउटपुट मूल्य | $0.00 · 1M टोकन |
| कॉन्टेक्स्ट विंडो | 131.1K टोकन |
| संगत एंडपॉइंट्स | openai |
| वेंडर | Meta |
अपने कोड से llama-3.1-70b-instruct कॉल करें
किसी भी OpenAI-संगत SDK को UnoRouter पर इंगित करें और नाम से मॉडल का अनुरोध करें। YOUR_API_KEY को अपने डैशबोर्ड से एक वास्तविक key से बदलें।
curl https://api.unorouter.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.1-70b-instruct",
"messages": [{"role": "user", "content": "Hello!"}]
}'अक्सर पूछे जाने वाले प्रश्न
llama-3.1-70b-instruct की 1M टोकन के लिए कितनी लागत है?
इनपुट की कीमत 1M टोकन के लिए $0.00 है, आउटपुट 1M टोकन के लिए $0.00। बिलिंग प्रति टोकन होती है, बैच आकारों के लिए कोई rounding नहीं।
मैं llama-3.1-70b-instruct को API के माध्यम से कैसे एक्सेस करूँ?
model=llama-3.1-70b-instruct के साथ UnoRouter /v1/chat/completions एंडपॉइंट पर अनुरोध भेजें। कोई भी OpenAI-संगत क्लाइंट लाइब्रेरी काम करती है। प्रमाणीकरण एक मानक Bearer टोकन का उपयोग करता है।
llama-3.1-70b-instruct की कॉन्टेक्स्ट विंडो क्या है?
llama-3.1-70b-instruct 131.1K टोकन की एक कॉन्टेक्स्ट विंडो का समर्थन करता है, जो आपके prompt और मॉडल की प्रतिक्रिया के बीच साझा होती है।
समान मॉडल
अभी llama-3.1-70b-instruct आज़माएं
एक API key बनाएं और एक मिनट से कम में अनुरोध करना शुरू करें।