Meta: llama-3.1-70b-instruct:free

llama-3.1-70b-instruct:free
128K contesto131.1K outputStrutturato
Rilasciato Jul 23, 2024Limite delle conoscenze 2023Aggiornato Jul 23, 2024

Open Llama instruction model for multilingual chat, reasoning, and coding

Modalità chatTokenizer Llama3meta-llama/Meta-Llama-3.1-70B-Instruct

Prezzi

Prezzo di input
$0.00/ 1 M token
Prezzo di output
$0.00/ 1 M token
Finestra di contesto 128K tokenEndpoint compatibili openaiProvider Meta

Performance

Caricamento dati di performance...

Utilizzo e classifica

Caricamento utilizzo...

Parametri supportati

Tutti i provider = supportato da ogni upstream che serve questo modello. Alcuni provider = dipende dall'upstream che gestisce la richiesta. Predefinito = il valore inviato quando non lo imposti.

ParametroProviderPredefinito
frequency_penaltyAlcuni provider-
logit_biasAlcuni provider-
logprobsAlcuni provider-
max_tokensTutti i provider-
min_pAlcuni provider-
presence_penaltyAlcuni provider-
repetition_penaltyAlcuni provider-
response_formatAlcuni provider-
seedAlcuni provider-
stopTutti i provider-
structured_outputsAlcuni provider-
temperatureTutti i provider-
tool_choiceAlcuni provider-
toolsAlcuni provider-
top_kTutti i provider-
top_logprobsAlcuni provider-
top_pTutti i provider-

Domande frequenti

Modelli simili