A DeepSeek divulgou o código do motor com que executa os seus próprios modelos. A 20 de outubro de 2026, o laboratório chinês colocou o DeepInfer no GitHub, sob a licença permissiva Apache 2.0, e anunciou-o no X como a estrutura interna que serve o DeepSeek-V4.1-Flash aos seus utilizadores. Por agora é o único modelo suportado, mas a empresa garante que o código de inferência dos modelos seguintes e as futuras melhorias de desempenho serão publicados no mesmo repositório.
Os pesos abertos são a imagem de marca da DeepSeek, mas não determinam sozinhos quanto custa pôr um modelo a funcionar. A camada de serviço, que agrupa pedidos, reparte o trabalho entre chips e gera os tokens, pode alterar muito o débito e a fatura. Em abril de 2025, a empresa tinha dito que publicar o motor completo era pouco prático e que preferia contribuir com partes para projetos existentes, posição que, segundo o The New Stack, esta publicação inverte em parte.
De acordo com o repositório, o DeepInfer junta as bibliotecas de kernels da própria DeepSeek, como FlashMLA, DeepGEMM e DeepEP, a paralelismo de dados na atenção, paralelismo de especialistas para as camadas de mistura de especialistas, escalonamento assíncrono, saídas estruturadas e um esquema de descodificação especulativa chamado DSpark, que decide quantos tokens provisórios vale a pena verificar. Uma biblioteca complementar, a deepseek-recipe, disponível em Rust e Python, reproduz a forma como a API oficial converte pedidos em tokens e vice-versa, para que terceiros obtenham o mesmo comportamento.
O suporte de hardware foi o pormenor que mais atenção despertou. O código visa duas plataformas: a arquitetura SM100 da NVIDIA, usada nas GPUs Blackwell para centros de dados, e as NPUs Ascend 950 da Huawei. Gerações anteriores da NVIDIA, como a Hopper, não constam da lista. Duas funções de reprodutibilidade, a inferência invariante ao lote e a amostragem determinística, só funcionam em hardware NVIDIA, e os testes publicados foram feitos em chips NVIDIA, quatro GPUs SM100 no pré-preenchimento e 64 na descodificação, pelo que o desempenho em Ascend continua sem medição pública.
Não se trata de um serviço pronto a usar. O ficheiro de apresentação explica que uma implementação completa ainda precisa de um sistema de cache KV, da separação entre pré-preenchimento e descodificação em máquinas distintas e de balanceamento de carga entre réplicas, componentes que ficaram fora desta versão. Um extenso guia de implementação no repositório descreve como a DeepSeek gere internamente essas partes, e o laboratório afirma que um único cluster de produção processa 155 biliões de tokens por dia, com receitas de cerca de 38 dólares por hora de GPU a preços fora de ponta. Estes valores vêm apenas da DeepSeek.
A cobertura independente confirma a publicação e os seus limites. O The Next Web, citando a Bloomberg, noticiou que ninguém fora da empresa tinha ainda avaliado o DeepInfer e que o repositório ultrapassou as 8000 estrelas num dia. O South China Morning Post citou um investigador da DeepSeek que descreveu a disputa entre IA aberta e fechada em termos muito duros. O projeto vLLM, sobre o qual a DeepSeek diz que o DeepInfer foi construído inicialmente, agradeceu à empresa e anunciou que vai aproveitar ideias para o seu próprio suporte ao V4.1-Flash.
Para os fornecedores de nuvem que já alojam modelos da DeepSeek, o código é uma referência das otimizações da própria empresa. Para os restantes, o valor prático poderá estar em estudá-lo e transpor as técnicas para motores como o vLLM ou o SGLang, pelo menos até surgirem testes independentes e os componentes de serviço em falta.