Meta: llama-3-8b-instruct:free

llama-3-8b-instruct:free
131.1K contexte512 sortieOutilsStructuré
Publié Apr 18, 2024Limite des connaissances 2023Mis à jour Apr 18, 2024

Meta's latest class of model (Llama 3) launched with a variety of sizes & flavors. This is the base 8B pre-trained version. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, click here. Usage of this model is subject to Meta's Acceptable Use Policy.

Mode chatTokenizer Llama3Quantification int4meta-llama/Meta-Llama-3-8B-Instruct

Tarification

Prix en entrée
$0.00/ 1 M jetons
Prix en sortie
$0.00/ 1 M jetons
Fenêtre de contexte 131.1K jetonsPoints d'accès compatibles openaiÉditeur Meta

Performance

Chargement des performances...

Utilisation et classement

Chargement de l'utilisation...

Paramètres supportés

Tous les fournisseurs = pris en charge par tous les upstreams servant ce modèle. Certains fournisseurs = dépend de l'upstream qui traite la requête. Par défaut = la valeur envoyée quand vous ne définissez rien.

ParamètreFournisseursPar défaut
frequency_penaltyTous les fournisseurs-
logit_biasTous les fournisseurs-
max_tokensTous les fournisseurs-
min_pTous les fournisseurs-
presence_penaltyTous les fournisseurs-
repetition_penaltyTous les fournisseurs-
response_formatTous les fournisseurs-
stopTous les fournisseurs-
structured_outputsTous les fournisseurs-
temperatureTous les fournisseurs-
top_kTous les fournisseurs-
top_pTous les fournisseurs-

Questions fréquentes

Modèles similaires