DeepSeek V3

Ce que DeepSeek V3 change par rapport à DeepSeek V2.5

DeepSeek V2.5 est la version qui précède DeepSeek V3. Selon DeepSeek, la série V2.5 s’achève avec DeepSeek-V2.5-1210, et l’éditeur annonce alors travailler à des modèles de fondation de nouvelle génération. V3 sort le 26 décembre 2024.

Selon DeepSeek, l’architecture reprend Multi-head Latent Attention (MLA) et DeepSeekMoE, éprouvées sur DeepSeek-V2. Elle y ajoute une stratégie d’équilibrage de charge sans perte auxiliaire et un objectif d’entraînement par prédiction de plusieurs tokens, les unités de texte traitées par le modèle. Selon DeepSeek, V3 compte 671 milliards de paramètres au total, dont 37 milliards activés, contre 236 milliards, dont 21 milliards activés, pour DeepSeek-V2.

À sa sortie, le modèle de chat obtient, selon le tableau publié par DeepSeek, 88,5 sur MMLU contre 80,6 pour DeepSeek V2.5-0905. Sur MATH-500, les scores sont de 90,2 contre 74,7. Sur SWE Verified, ils atteignent 42,0 contre 22,6. Dans son annonce du 26 décembre 2024, DeepSeek indique également une vitesse de 60 tokens par seconde, trois fois celle de V2. L’API reste compatible, selon cette même annonce.

À quoi sert DeepSeek V3

Chat

DeepSeek V3 permet de discuter sur le site officiel de DeepSeek, selon l’éditeur, à sa sortie. Pour la conversation ouverte en anglais, il obtient alors, selon DeepSeek, 85,5 sur Arena-Hard et 70,0 sur AlpacaEval 2.0, contre respectivement 76,2 et 50,5 pour DeepSeek-V2.5-0905.

Mathématiques

DeepSeek V3 obtient, à sa sortie, 39,2 sur AIME 2024 et 43,2 sur CNMO 2024, deux évaluations de mathématiques, selon DeepSeek.

Code

DeepSeek V3 obtient, à sa sortie, 82,6 sur HumanEval-Mul et 49,6 sur Aider-Polyglot, deux évaluations de code, selon DeepSeek. Sur OpenRouter, il prend en charge l’appel d’outils et les sorties structurées.

Les performances de DeepSeek V3

DeepSeek V3, à sa sortie, dépasse les autres modèles open source dans sa version chat et atteint des performances comparables à celles des principaux modèles fermés, dont GPT-4o et Claude 3.5 Sonnet, selon DeepSeek. Le tableau rassemble les scores annoncés par l’éditeur en connaissances, raisonnement et code.

Claude 3.5 Sonnet garde toutefois l’avantage dans le même tableau publié par DeepSeek sur MMLU-Pro, avec 78,0, sur GPQA Diamond, avec 65,0, et sur SWE Verified, avec 50,8. Selon l’éditeur, tous les modèles comparés sont évalués avec une sortie limitée à 8K tokens.

Selon DeepSeek, le pré-entraînement porte sur 14,8 billions de tokens, puis le modèle passe par un réglage supervisé et un apprentissage par renforcement. Durant l’entraînement, les capacités de raisonnement d’un modèle de la série DeepSeek R1, à longue chaîne de pensée, sont distillées dans DeepSeek V3. Pour l’entraînement complet, l’éditeur annonce 2,788 millions d’heures de GPU H800. Ce total exclut les recherches et expériences préalables.

Caractéristiques techniques de DeepSeek V3

DeepSeek V3 est sorti le 26 décembre 2024 et accepte du texte en entrée. Le tableau des caractéristiques présente ses données techniques. Sur OpenRouter, sa fenêtre de contexte est de 163 840 tokens, avec une sortie maximale de 16 000 tokens par réponse. Sur cette plateforme, la date de fin des connaissances du modèle est fixée au 31 juillet 2024.

Selon DeepSeek, le modèle repose sur un mélange d’experts (MoE) de 671 milliards de paramètres, dont 37 milliards sont activés pour chaque token. Sa fenêtre de contexte atteint 128K tokens selon l’éditeur. Pour cette même fenêtre, DeepSeek annonce la réussite du test « Needle In A Haystack », qui évalue le repérage d’une information dans un long contexte, sur toutes les longueurs jusqu’à cette limite.

Selon DeepSeek, les poids publiés sur Hugging Face totalisent 685 milliards de paramètres, répartis entre le modèle principal et un module de prédiction de plusieurs tokens (MTP). Ce module représente 14 milliards de paramètres. Pour les poids distribués, l’éditeur fournit uniquement le format FP8. Un script de conversion permet d’obtenir des poids au format BF16.

Où utiliser DeepSeek V3, et comment il se facture

DeepSeek V3 était accessible dans l’interface de conversation de l’éditeur, selon DeepSeek, à sa sortie.

• Accès API : selon DeepSeek, à sa sortie, le modèle était accessible par une API compatible avec celle d’OpenAI.
• Licence : selon DeepSeek, à sa sortie, le code du dépôt était sous licence MIT. L’usage des modèles DeepSeek V3 Base et Chat relevait d’une licence distincte, la Model License. L’usage commercial était autorisé pour la série.
• Exécution en local : selon DeepSeek, à sa sortie, le modèle pouvait se déployer avec SGLang, LMDeploy, TensorRT-LLM ou vLLM. Il pouvait aussi fonctionner sur des GPU AMD et des NPU Huawei Ascend.
• Infrastructure nécessaire : selon le rapport technique de DeepSeek publié à sa sortie, l’unité de déploiement recommandée était relativement grande, ce qui pouvait peser sur les petites équipes.

La carte d’accès donne les derniers prix relevés.

DeepSeek V3 parmi les versions de DeepSeek V

DeepSeek V3 a pour successeur DeepSeek V3 0324, sorti le 24 mars 2025. DeepSeek V3.1 arrive ensuite, le 21 août 2025.

Selon DeepSeek, la publication de DeepSeek V3 0324 marque le passage de ses modèles à la licence MIT, comme DeepSeek R1. La frise des versions situe chaque version de DeepSeek V dans le temps. Pour son entraînement, DeepSeek R1 s’appuie sur DeepSeek-V3-Base, selon l’éditeur.

FAQ