זמין עכשיו
Meta
llama-3.1-70b-instruct
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases. It has demonstrated strong...
TextToolsOpen Weights131.1K128K
קלטחינם
פלטחינם
הקשר131.1K
נקודות קצהopenai
יכולות
מובנה
אופנים
קלט
text
פלט
text
סטטיסטיקה מהירה
חלון הקשר128K
פלט מקסימלי131.1K
מצבchat
מטקנןLlama3
מועד ידע אחרון2023
Hugging Facemeta-llama/Meta-Llama-3.1-70B-Instruct
ביצועים
טוען נתוני ביצועים...
פרמטרים נתמכים
| פרמטר | תמיד | ברירת מחדל |
|---|---|---|
| frequency_penalty | - | - |
| logit_bias | - | - |
| max_tokens | - | |
| min_p | - | - |
| presence_penalty | - | - |
| repetition_penalty | - | - |
| response_format | - | - |
| seed | - | - |
| stop | - | |
| structured_outputs | - | - |
| temperature | - | |
| tool_choice | - | - |
| tools | - | - |
| top_k | - | |
| top_p | - |
§ 01
תמחור
| מחיר קלט | $0.00 · מיליון טוקנים |
| מחיר פלט | $0.00 · מיליון טוקנים |
| חלון הקשר | 131.1K טוקנים |
| נקודות קצה תואמות | openai |
| ספק | Meta |
§ 02
קראו ל-llama-3.1-70b-instruct מהקוד שלכם
כוונו כל SDK תואם OpenAI ל-UnoRouter ובקשו את המודל לפי שם. החליפו את YOUR_API_KEY במפתח אמיתי מלוח הבקרה שלכם.
bash
curl https://api.unorouter.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.1-70b-instruct",
"messages": [{"role": "user", "content": "Hello!"}]
}'§ 03
שאלות נפוצות
כמה עולה llama-3.1-70b-instruct למיליון טוקנים?
קלט מתומחר ב-$0.00 למיליון טוקנים, פלט ב-$0.00 למיליון טוקנים. החיוב הוא לפי טוקן, ללא עיגול לגודלי batch.
איך אני ניגש ל-llama-3.1-70b-instruct דרך API?
שלחו בקשות לנקודת הקצה UnoRouter /v1/chat/completions עם model=llama-3.1-70b-instruct. כל ספריית לקוח תואמת OpenAI עובדת. האימות משתמש בטוקן Bearer סטנדרטי.
מהו חלון ההקשר של llama-3.1-70b-instruct?
llama-3.1-70b-instruct תומך בחלון הקשר של 131.1K טוקנים, מחולק בין ההנחיה שלכם לתגובת המודל.
§ 04