Meta: llama-3.3-70b-instruct-fp8:free

llama-3.3-70b-instruct-fp8:free
128K контекст131.1K выводИнструментыПараллельные инструментыСтруктурир.Сист. сообщ.
Выпущено Dec 6, 2024Граница знаний 2023Обновлено Dec 6, 2024

The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks. Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai. Model Card

Режим chatТокенизатор Llama3Квантизация bf16meta-llama/Llama-3.3-70B-Instruct

Тарифы

Цена за вход
$0.00/ 1 млн токенов
Цена за выход
$0.00/ 1 млн токенов
Окно контекста 128K токеновСовместимые эндпоинты openaiВендор Meta

Производительность

Загрузка данных производительности...

Использование и рейтинг

Загрузка использования...

Поддерж. параметры

Все провайдеры = поддерживается каждым апстримом, обслуживающим эту модель. Некоторые провайдеры = зависит от апстрима, обрабатывающего запрос. По умолчанию = значение, отправляемое, если вы ничего не задали.

ПараметрПровайдерыПо умолчанию
frequency_penaltyНекоторые провайдеры-
logit_biasНекоторые провайдеры-
logprobsНекоторые провайдеры-
max_tokensВсе провайдеры-
min_pНекоторые провайдеры-
presence_penaltyНекоторые провайдеры-
repetition_penaltyНекоторые провайдеры-
response_formatНекоторые провайдеры-
seedНекоторые провайдеры-
stopНекоторые провайдеры-
structured_outputsНекоторые провайдеры-
temperatureВсе провайдеры-
tool_choiceНекоторые провайдеры-
toolsНекоторые провайдеры-
top_kНекоторые провайдеры-
top_logprobsНекоторые провайдеры-
top_pВсе провайдеры-

Часто задаваемые вопросы

Похожие модели