Meta : Llama 3.1 8B Instruct

À quoi sert Llama 3.1 8B Instruct

Conversation

Llama 3.1 8B Instruct est optimisé pour le dialogue multilingue et destiné à servir d’assistant conversationnel, selon Meta. Pour Llama 3.1, Meta annonce la prise en charge de l’anglais, de l’allemand, du français, de l’italien, du portugais, du hindi, de l’espagnol et du thaï. À sa sortie, selon Meta, les versions améliorées des modèles 8B et 70B permettent notamment le résumé de longs textes et les agents conversationnels multilingues.

Code

Llama 3.1 8B Instruct lit du texte multilingue et produit du texte multilingue ainsi que du code, selon Meta. À sa sortie, selon Meta, les versions améliorées des modèles 8B et 70B permettent des usages d’assistant de code. Selon la documentation de Meta, Llama 3.1 prend également en charge plusieurs formats d’appel d’outils. Sur OpenRouter, le modèle sait appeler des outils et produire des sorties structurées.

Les performances de Llama 3.1 8B Instruct

Llama 3.1 8B Instruct est comparé à Llama 3 8B Instruct dans le tableau de scores des modèles ajustés aux instructions publié par Meta sur Hugging Face. Selon Meta, il obtient 80,4 sur IFEval, qui évalue le suivi de consignes, contre 76,8 pour le modèle comparé. Sur HumanEval, consacré au code, il atteint 72,6 contre 60,4, selon Meta. En mathématiques, son score sur MATH passe à 51,9 contre 29,1, selon Meta.

Sur MMLU-Pro, il obtient 48,3 contre 45,5 pour Llama 3 8B Instruct, selon Meta. Pour l’appel d’outils évalué par BFCL, son score atteint 76,1 contre 60,3 pour le même modèle comparé, selon Meta. À l’inverse, il recule sur GPQA, consacré au raisonnement, avec un score de 30,4 contre 34,6 dans cette comparaison publiée par Meta, selon Meta.

Caractéristiques techniques de Llama 3.1 8B Instruct

Llama 3.1 8B Instruct est sorti le 23 juillet 2024. Le bloc des caractéristiques présente la date de sortie, le contexte, la réponse maximale, la réflexion, les entrées, la licence, les paramètres et les hébergeurs.

Selon Meta, le modèle compte 8 milliards de paramètres. Sur OpenRouter, sa fenêtre de contexte atteint 131 072 tokens. Une réponse peut contenir au plus 117 964 tokens sur OpenRouter. Selon Meta, à sa sortie, les versions améliorées 8B et 70B disposent d’un contexte nettement plus long, de 128K.

Selon Meta, le pré-entraînement repose sur environ quinze mille milliards de tokens de sources publiques, avec des données qui s’arrêtent en décembre 2023. Le modèle est distribué sous la Llama 3.1 Community License, une licence commerciale propre à Meta, selon sa carte de modèle. Selon Meta, les modèles Llama 3.1 sont publiés en accès ouvert.

Où utiliser Llama 3.1 8B Instruct, et comment il se facture

Llama 3.1 8B Instruct était téléchargeable à sa sortie sur le site de Meta et sur Hugging Face, selon Meta. La carte d’accès donne les derniers prix relevés.

Selon Meta, le dépôt Hugging Face contient deux versions des poids du modèle : l’une destinée à la bibliothèque transformers, l’autre au code d’origine de Llama. Pour utiliser le modèle avec transformers, la version 4.43.0 ou ultérieure est requise, selon Meta. Sur OpenRouter, le modèle est proposé sous l’identifiant meta-llama/llama-3.1-8b-instruct.

Llama 3.1 8B Instruct parmi les versions de Llama

Llama 3.1 8B Instruct appartient à la collection Llama 3.1, proposée en trois tailles selon Meta : 8B, 70B et 405B. La frise des versions situe le modèle dans la famille Llama et indique les dates de sortie.

Llama 3.1 70B Instruct, autre taille de la même collection, est sorti le même jour que la version 8B, le 23 juillet 2024. Puis Llama 3.2 1B Instruct et Llama 3.2 3B Instruct sont sortis le 25 septembre 2024. Avec Llama 3.3 70B Instruct, la famille s’est ensuite enrichie d’une autre version le 6 décembre 2024.

FAQ