Will DePue, qui dirige le groupe de recherche à but non lucratif Unemployment Labs et a travaillé auparavant chez OpenAI, a mis en ligne le 12 novembre un rapport forensique soutenant que six modèles récents issus de quatre entreprises chinoises d'IA ont été initialisés sur des GPU Nvidia Blackwell. Il s'agit de DeepSeek, Moonshot AI, MiniMax et Ant Group. Les puces de la famille Blackwell exigent une licence d'exportation américaine pour la Chine, et le rapport précise qu'aucune n'a été signalée. TechCrunch, The Register et The Decoder ont relayé ces conclusions le 13 novembre.
La méthode repose sur une particularité de la naissance d'un modèle. Avant l'entraînement, les milliards de poids reçoivent des valeurs de départ aléatoires, tirées d'une graine par PyTorch, qui répartit ce travail entre de nombreux fils d'exécution du GPU. Le nombre de fils dépend du nombre de multiprocesseurs de la puce : 132 sur les pièces Hopper comme la H100, la H200 et la H800, 148 sur les B200 et B300, 152 sur les GB200 et GB300. La même graine range donc les valeurs à des endroits différents selon la puce. Certains poids, comme les lignes réservées à des symboles jamais vus à l'entraînement, gardent presque intactes leurs valeurs initiales, et les poids entraînés en conservent un écho ténu. Le rapport a exploré environ six mille milliards de combinaisons de graine et de disposition, puis testé chaque correspondance sur des poids mis de côté.
Selon le rapport, DeepSeek-V4-Flash et MiniMax-M3 correspondent à la disposition à 148 unités, tandis que DeepSeek-V4-Pro, Kimi K3, Kimi K3.1-Pro et Ling-3.1-flash correspondent à celle à 152. Les versions antérieures des mêmes laboratoires, dont DeepSeek-V3, Kimi K2.5, MiniMax-M2.7 et Ling-3.0-flash, apparaissent comme du Hopper. Les modèles les plus récents que l'auteur a pu lire chez Alibaba, Zhipu, Tencent, Xiaomi et StepFun ressortent eux aussi comme du Hopper, et LongCat-2.0 de Meituan ne montre aucune empreinte Nvidia, ce qui concorde avec l'indication de l'entreprise selon laquelle elle s'est entraînée sur des superpods ASIC. Le rapport situe sa preuve la plus forte pour chaque modèle Blackwell entre 49 et 1385 écarts types, contre environ 8 attendus par pur hasard sur l'ensemble de la recherche, et affirme que la méthode a donné raison aux 24 modèles dont les concepteurs avaient publiquement nommé le matériel.
Le texte avance aussi une estimation d'échelle, assortie de fortes réserves. Il évalue les cinq entraînements à environ 12 000 GPU Blackwell au total, Kimi K3 avoisinant 4500 et DeepSeek-V4-Pro 3000, et, à quelque 70 000 dollars le GPU, chiffre les plus gros clusters entre 200 et 300 millions de dollars, et l'ensemble des cinq à plus de 500 millions. L'auteur dit ne pas être sûr de ces chiffres, qui dépendent d'un rendement, de volumes de tokens et de durées d'entraînement qu'aucun laboratoire n'a publiés, et la fourchette annoncée pour le total va de 7000 à 22 000 GPU. Une révision du 12 novembre a remplacé des valeurs initiales plus basses, de 2000 à 3000 GPU et de 150 à 200 millions de dollars pour le plus gros cluster.
Les limites figurent dans le rapport lui-même. L'empreinte désigne le matériel qui a généré les poids de départ, pas toutes les puces qui ont ensuite aidé à entraîner le modèle, et elle ne dit ni où se trouvent les puces ni à qui elles appartiennent. Des systèmes Blackwell peuvent être loués dans des centres de données hors de Chine, de sorte que la preuve n'établit pas à elle seule un trafic ni une violation des règles d'exportation. Un AMD MI300X bridé à 148 ou 152 unités peut reproduire les mêmes dispositions ; l'auteur a donc cherché de petites différences numériques entre constructeurs : pour DeepSeek-V4-Flash, le poids publié coïncidait avec le résultat de Nvidia dans 363 des 377 valeurs divergentes et avec celui d'AMD dans aucune. Il juge l'explication AMD très improbable pour les cinq autres modèles, sans avoir pu y refaire le test.
La vérification indépendante reste partielle. L'Institute for Progress a mis en ligne sur GitHub un dépôt qui rejoue une partie de l'étude. Il a constaté que les poids téléchargés correspondaient aux empreintes de contrôle notées par l'auteur, reproduit les motifs de départ de DeepSeek-V3-Base sur une H200 puis de DeepSeek-V4-Flash et MiniMax-M3 sur une B200, et repéré la trace des valeurs initiales dans les poids entraînés de DeepSeek-V4-Flash. Il n'a pas pu tester Kimi K3, qui réclame un GPU à 152 unités dont il ne disposait pas, et indique que la plupart des autres modèles manquaient d'échantillons ou de réglages publics pour une réplication sur GPU. DePue affirme que des chercheurs seniors d'OpenAI et d'Anthropic ont confirmé le résultat ; l'affirmation vient de lui, telle que la rapportent The Register et The Decoder, et aucune confirmation directe n'a été constatée.
TechCrunch a replacé le rapport dans l'actualité Nvidia de la semaine, dont le départ de Jensen Huang et l'examen de Megaspeed, et rappelé qu'un conseiller de la Maison-Blanche avait déclaré en juillet que Moonshot AI avait utilisé des puces Nvidia interdites. The Register a relevé quatre projets de loi au Congrès visant à durcir l'accès de la Chine au matériel d'IA avancé, dont l'un cible la faille de la location. Aucun des articles consultés ne contenait de réponse des quatre laboratoires, et le rapport demande que les conclusions soient attribuées à DePue.