DeepSeek a rendu public le code du moteur qui fait tourner ses propres modèles. Le 20 octobre 2026, le laboratoire chinois a déposé DeepInfer sur GitHub sous la licence permissive Apache 2.0 et l'a annoncé sur X comme le cadre interne qui sert DeepSeek-V4.1-Flash à ses utilisateurs. C'est pour l'instant le seul modèle pris en charge, mais l'entreprise assure que le code d'inférence des modèles suivants et les futures optimisations seront publiés dans le même dépôt.
Les poids ouverts font la réputation de DeepSeek, mais ils ne disent pas à eux seuls combien coûte l'exploitation d'un modèle. La couche de service, qui regroupe les requêtes, répartit le travail entre les puces et génère les tokens, peut faire varier fortement le débit et la facture. En avril 2025, l'entreprise jugeait irréaliste de publier son moteur complet et préférait contribuer par morceaux à des projets existants, une position que cette publication renverse en partie, relève The New Stack.
D'après le dépôt, DeepInfer associe les bibliothèques de noyaux maison de DeepSeek, dont FlashMLA, DeepGEMM et DeepEP, au parallélisme de données pour l'attention, au parallélisme d'experts pour les couches de mélange d'experts, à l'ordonnancement asynchrone, aux sorties structurées et à un mécanisme de décodage spéculatif baptisé DSpark, qui détermine combien de tokens provisoires méritent une vérification. Une bibliothèque complémentaire, deepseek-recipe, proposée en Rust et en Python, reproduit la façon dont l'API officielle convertit les requêtes en tokens et inversement, afin que les hébergeurs tiers obtiennent le même comportement.
C'est la compatibilité matérielle qui a le plus retenu l'attention. Le code vise deux plateformes : l'architecture SM100 de NVIDIA, utilisée dans les GPU Blackwell pour centres de données, et les NPU Ascend 950 de Huawei. Les générations NVIDIA plus anciennes, comme Hopper, n'y figurent pas. Deux fonctions de reproductibilité, l'inférence invariante au lot et l'échantillonnage déterministe, ne fonctionnent que sur matériel NVIDIA, et les mesures publiées ont été faites sur puces NVIDIA, quatre GPU SM100 pour le pré-remplissage et 64 pour le décodage, si bien que les performances sur Ascend restent inconnues publiquement.
Ce n'est pas un service clés en main. Le fichier de présentation précise qu'un déploiement complet exige encore un système de cache KV, la séparation du pré-remplissage et du décodage sur des machines distinctes et la répartition de charge entre répliques, autant d'éléments absents de cette version. Un long guide de déploiement dans le dépôt décrit comment DeepSeek gère ces parties en interne, et le laboratoire affirme qu'une seule grappe de production traite 155 000 milliards de tokens par jour, pour un revenu d'environ 38 dollars par heure de GPU aux tarifs creux. Ces chiffres ne proviennent que de DeepSeek.
La couverture indépendante confirme la publication et ses limites. The Next Web, citant Bloomberg, indique que personne hors de l'entreprise n'avait encore mesuré DeepInfer et que le dépôt a franchi les 8 000 étoiles en une journée. Le South China Morning Post a cité un chercheur de DeepSeek présentant l'affrontement entre IA ouverte et fermée en des termes tranchés. Le projet vLLM, sur lequel DeepInfer aurait d'abord été construit selon DeepSeek, a remercié l'entreprise et dit vouloir reprendre certaines idées pour sa propre prise en charge de V4.1-Flash.
Pour les fournisseurs de cloud qui hébergent déjà des modèles DeepSeek, le code sert de référence pour les optimisations de l'entreprise. Pour les autres, l'intérêt pratique tiendra surtout à son étude et au transfert de ces techniques vers des moteurs comme vLLM ou SGLang, du moins jusqu'à l'arrivée de tests indépendants et des briques de service manquantes.