Will DePue, que dirige o grupo de investigação sem fins lucrativos Unemployment Labs e trabalhou antes na OpenAI, divulgou a 12 de novembro um relatório forense que defende que seis modelos recentes de quatro empresas chinesas de IA foram inicializados em GPUs Nvidia Blackwell. Falamos da DeepSeek, da Moonshot AI, da MiniMax e da Ant Group. Os chips da família Blackwell exigem licença de exportação norte-americana para a China, e o relatório afirma que nenhuma foi noticiada. O TechCrunch, o The Register e o The Decoder deram eco às conclusões a 13 de novembro.

O método assenta numa particularidade da forma como um modelo nasce. Antes do treino, os milhares de milhões de pesos recebem valores iniciais aleatórios, gerados a partir de uma semente pelo PyTorch, que reparte esse trabalho por muitos fios de execução da GPU. O número de fios depende de quantos multiprocessadores o chip tem: 132 nas peças Hopper, como a H100, a H200 e a H800, 148 nas B200 e B300 e 152 nas GB200 e GB300. Assim, a mesma semente coloca os valores em posições diferentes consoante o chip. Alguns pesos, como as linhas de símbolos que nunca apareceram no treino, conservam quase intactos os valores de partida, e os pesos treinados guardam um eco ténue. O relatório percorreu cerca de seis biliões de combinações de semente e disposição e testou depois cada coincidência em pesos deixados fora da pesquisa.

Segundo o relatório, o DeepSeek-V4-Flash e o MiniMax-M3 correspondem à disposição de 148 unidades, ao passo que o DeepSeek-V4-Pro, o Kimi K3, o Kimi K3.1-Pro e o Ling-3.1-flash correspondem à de 152. Versões anteriores dos mesmos laboratórios, como o DeepSeek-V3, o Kimi K2.5, o MiniMax-M2.7 e o Ling-3.0-flash, aparecem como Hopper. Os modelos mais recentes que o autor conseguiu ler da Alibaba, da Zhipu, da Tencent, da Xiaomi e da StepFun também aparecem como Hopper, e o LongCat-2.0 da Meituan não mostrou impressão digital da Nvidia, o que condiz com a indicação da empresa de que treinou em superpods ASIC. O relatório situa a sua evidência mais forte para cada modelo Blackwell entre 49 e 1385 desvios-padrão, contra cerca de 8 esperados por mero acaso em toda a pesquisa, e diz que o método coincidiu com os 24 modelos cujos programadores tinham indicado publicamente o hardware.

O texto avança também uma estimativa de escala, com ressalvas pesadas. Calcula que as cinco execuções de treino somem cerca de 12 000 GPUs Blackwell, com o Kimi K3 perto de 4500 e o DeepSeek-V4-Pro perto de 3000, e, a cerca de 70 000 dólares por GPU, avalia os maiores aglomerados entre 200 e 300 milhões de dólares e o conjunto das cinco em mais de 500 milhões. O autor admite pouca confiança nestes números, que dependem de eficiência, de quantidades de tokens e de durações de treino que nenhum laboratório divulgou, e o intervalo indicado para o total vai de 7000 a 22 000 GPUs. Uma revisão de 12 de novembro substituiu valores iniciais mais baixos, de 2000 a 3000 GPUs e de 150 a 200 milhões de dólares para o maior aglomerado.

Os limites vêm descritos no próprio relatório. A impressão digital identifica o hardware que gerou os pesos de partida, não todos os chips que depois ajudaram a treinar o modelo, e não indica onde estão os chips nem quem os possui. Os sistemas Blackwell podem ser alugados em centros de dados fora da China, pelo que a prova, por si só, não demonstra contrabando nem violação das regras de exportação. Um AMD MI300X limitado a 148 ou 152 unidades consegue reproduzir as mesmas disposições, por isso o autor procurou pequenas diferenças numéricas entre fabricantes: no DeepSeek-V4-Flash, o peso publicado coincidiu com o resultado da Nvidia em 363 de 377 valores divergentes e com o da AMD em nenhum. Considera muito improvável a explicação AMD para os outros cinco modelos, mas não pôde repetir o teste neles.

A verificação independente é parcial. O Institute for Progress publicou no GitHub um repositório que repete parte do estudo. Concluiu que os pesos descarregados coincidiam com as somas de controlo registadas pelo autor, reproduziu os padrões de partida do DeepSeek-V3-Base numa H200 e do DeepSeek-V4-Flash e do MiniMax-M3 numa B200, e detetou o rasto dos valores iniciais nos pesos já treinados do DeepSeek-V4-Flash. Não conseguiu testar o Kimi K3, que exige uma GPU de 152 unidades que não tinha, e afirmou que quase todos os restantes modelos careciam de amostras ou parâmetros públicos para uma réplica em GPU. DePue diz que investigadores seniores da OpenAI e da Anthropic confirmaram o resultado; a afirmação é dele, tal como a relatam o The Register e o The Decoder, e não se viu confirmação direta.

O TechCrunch colocou o relatório ao lado das notícias da semana sobre a Nvidia, entre elas a saída de Jensen Huang e o escrutínio à Megaspeed, e lembrou que um conselheiro da Casa Branca afirmou em julho que a Moonshot AI usara chips Nvidia proibidos. O The Register apontou quatro projetos de lei no Congresso que visam apertar o acesso da China a hardware avançado de IA, um dos quais visa a brecha do aluguer. Nenhuma das peças consultadas incluía resposta dos quatro laboratórios, e o relatório pede que as conclusões sejam atribuídas a DePue.

Referências