Meta: llama-3.1-8b:free

llama-3.1-8b:free
131.1K contexte128K sortieOutilsStructuré
Publié Jul 23, 2024Limite des connaissances 2023Mis à jour Jul 23, 2024

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, click here. Usage of this model is subject to Meta's Acceptable Use Policy.

Mode chatTokenizer Llama3meta-llama/Meta-Llama-3.1-8B-Instruct

Tarification

Prix en entrée
$0.00/ 1 M jetons
Prix en sortie
$0.00/ 1 M jetons
Fenêtre de contexte 128K jetonsPoints d'accès compatibles openaiÉditeur Meta

Performance

Chargement des performances...

Utilisation et classement

Chargement de l'utilisation...

Paramètres supportés

Tous les fournisseurs = pris en charge par tous les upstreams servant ce modèle. Certains fournisseurs = dépend de l'upstream qui traite la requête. Par défaut = la valeur envoyée quand vous ne définissez rien.

ParamètreFournisseursPar défaut
frequency_penaltyCertains fournisseurs-
logit_biasCertains fournisseurs-
logprobsCertains fournisseurs-
max_tokensTous les fournisseurs-
min_pCertains fournisseurs-
presence_penaltyCertains fournisseurs-
repetition_penaltyCertains fournisseurs-
response_formatTous les fournisseurs-
seedTous les fournisseurs-
stopTous les fournisseurs-
structured_outputsCertains fournisseurs-
temperatureTous les fournisseurs-
tool_choiceCertains fournisseurs-
toolsCertains fournisseurs-
top_kCertains fournisseurs-
top_logprobsCertains fournisseurs-
top_pTous les fournisseurs-

Questions fréquentes

Modèles similaires