Meta: llama-3-8b-instruct:free

llama-3-8b-instruct:free
131.1K contesto512 outputStrumentiStrutturato
Rilasciato Apr 18, 2024Limite delle conoscenze 2023Aggiornato Apr 18, 2024

Meta's latest class of model (Llama 3) launched with a variety of sizes & flavors. This is the base 8B pre-trained version. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, click here. Usage of this model is subject to Meta's Acceptable Use Policy.

Modalità chatTokenizer Llama3Quantizzazione int4meta-llama/Meta-Llama-3-8B-Instruct

Prezzi

Prezzo di input
$0.00/ 1 M token
Prezzo di output
$0.00/ 1 M token
Finestra di contesto 131.1K tokenEndpoint compatibili openaiProvider Meta

Performance

Caricamento dati di performance...

Utilizzo e classifica

Caricamento utilizzo...

Parametri supportati

Tutti i provider = supportato da ogni upstream che serve questo modello. Alcuni provider = dipende dall'upstream che gestisce la richiesta. Predefinito = il valore inviato quando non lo imposti.

ParametroProviderPredefinito
frequency_penaltyTutti i provider-
logit_biasTutti i provider-
max_tokensTutti i provider-
min_pTutti i provider-
presence_penaltyTutti i provider-
repetition_penaltyTutti i provider-
response_formatTutti i provider-
stopTutti i provider-
structured_outputsTutti i provider-
temperatureTutti i provider-
top_kTutti i provider-
top_pTutti i provider-

Domande frequenti

Modelli simili