Meta: llama-3.1-8b:free

llama-3.1-8b:free
131.1K contesto128K outputStrumentiStrutturato
Rilasciato Jul 23, 2024Limite delle conoscenze 2023Aggiornato Jul 23, 2024

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, click here. Usage of this model is subject to Meta's Acceptable Use Policy.

Modalità chatTokenizer Llama3meta-llama/Meta-Llama-3.1-8B-Instruct

Prezzi

Prezzo di input
$0.00/ 1 M token
Prezzo di output
$0.00/ 1 M token
Finestra di contesto 128K tokenEndpoint compatibili openaiProvider Meta

Performance

Caricamento dati di performance...

Utilizzo e classifica

Caricamento utilizzo...

Parametri supportati

Tutti i provider = supportato da ogni upstream che serve questo modello. Alcuni provider = dipende dall'upstream che gestisce la richiesta. Predefinito = il valore inviato quando non lo imposti.

ParametroProviderPredefinito
frequency_penaltyAlcuni provider-
logit_biasAlcuni provider-
logprobsAlcuni provider-
max_tokensTutti i provider-
min_pAlcuni provider-
presence_penaltyAlcuni provider-
repetition_penaltyAlcuni provider-
response_formatTutti i provider-
seedTutti i provider-
stopTutti i provider-
structured_outputsAlcuni provider-
temperatureTutti i provider-
tool_choiceAlcuni provider-
toolsAlcuni provider-
top_kAlcuni provider-
top_logprobsAlcuni provider-
top_pTutti i provider-

Domande frequenti

Modelli simili