OpenAI coloca o chip de inferência Jalapeño no mapa dos benchmarks

A OpenAI publicou os primeiros resultados medidos do Jalapeño, o seu primeiro acelerador de inferência personalizado, transformando um anúncio de hardware feito em junho numa história de infraestrutura muito mais concreta. A empresa afirma que o chip consegue executar mais trabalho de inferência por unidade de energia e, ao mesmo tempo, reduzir a latência de resposta, uma combinação particularmente importante para agentes interativos, porque os atrasos acumulam-se ao longo de tarefas com muitos passos. Os novos dados não provam que o Jalapeño superará todas as alternativas comerciais em produção, mas oferecem a primeira visão pública de como a OpenAI pretende alterar a economia de servir modelos de fronteira.

Segundo o relatório de benchmark da OpenAI, o Jalapeño foi testado com o InferenceX, um benchmark público da SemiAnalysis, usando GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T. A OpenAI diz que o chip alcançou uma combinação melhor de throughput por quilowatt e latência do que os sistemas Nvidia Blackwell usados na comparação. Os resultados publicados apontam para cerca de 1,5 a 1,9 vezes mais performance máxima por watt e latência end-to-end 1,7 a 3,6 vezes inferior, dependendo da carga e do ponto de operação.

Porque a eficiência de inferência importa para agentes

O treino recebe grande parte da atenção em infraestrutura de IA, mas a inferência é o custo recorrente de executar efetivamente um modelo. Cada pedido de utilizador, chamada de ferramenta, repetição, etapa de reflexão e troca entre subagentes consome capacidade de serving. Em workflows agentic de longa duração, a latência não é apenas uma questão de interface. Algumas centenas de milissegundos repetidas ao longo de dezenas ou centenas de chamadas sequenciais podem aumentar de forma material o tempo necessário para concluir uma tarefa.

É por isso que o objetivo de design do Jalapeño é relevante. A OpenAI diz ter otimizado o sistema tanto para throughput como para baixa latência, em vez de maximizar uma dimensão sacrificando a outra. A empresa apresenta a performance por unidade de energia como uma métrica de infraestrutura mais útil, porque a disponibilidade elétrica é cada vez mais uma limitação prática à quantidade de capacidade de inferência que pode ser instalada num data center.

A reportagem da TechCrunch acrescenta contexto de Richard Ho, responsável de hardware da OpenAI, que descreveu os resultados como um avanço significativo face ao estado da arte. Mais importante, a TechCrunch assinala a limitação temporal: o benchmark compara o Jalapeño com sistemas Blackwell atualmente disponíveis, enquanto hardware concorrente mais recente poderá existir quando a OpenAI chegar a uma implementação mais ampla. O benchmark é relevante, mas não representa uma classificação permanente.

Um benchmark mais forte do que um gráfico do fornecedor, mas ainda limitado

Os novos resultados merecem mais peso do que um teste interno proprietário porque a OpenAI utilizou o InferenceX e famílias de modelos públicos, em vez de apenas uma workload interna não divulgada. A SemiAnalysis, que opera o InferenceX, afirma ter inspecionado o chip e feito benchmark ao sistema. Isso oferece um ponto de referência externo mais útil do que uma simples alegação de marketing.

Continuam a existir limites importantes. O Jalapeño não está comercialmente disponível para compradores independentes alugarem, instalarem ou testarem. O hardware de comparação é o Nvidia GB200 e GB300, ambos da geração Blackwell, e não a plataforma Vera Rubin mais recente que deverá definir um baseline competitivo futuro. A SemiAnalysis argumenta explicitamente que Rubin seria a comparação prospetiva mais relevante.

A OpenAI também afirma que os seus resultados internos em modelos de fronteira próprios mostram uma vantagem maior, mas esses testes não podem ser avaliados de forma independente com a informação pública. Esses números devem, por isso, ser tratados como uma alegação atribuída à empresa e não como um resultado cross-vendor estabelecido.

Um chip personalizado altera a alavancagem de infraestrutura da OpenAI

O Jalapeño é um ASIC de inferência, não um acelerador geral de treino. Essa distinção é importante. A OpenAI não está a substituir a Nvidia em toda a sua stack de computação e continua fortemente dependente de aceleradores externos para treino de modelos e outras workloads. Em vez disso, o Jalapeño dá à OpenAI uma opção própria para um dos seus maiores centros de custo recorrente: servir modelos treinados em grande escala.

O valor estratégico vem do co-design. A OpenAI pode otimizar software de modelo, runtime, networking e silício em torno dos seus próprios padrões de tráfego, em vez de depender totalmente de um acelerador comercial concebido para muitos clientes. A empresa diz que o chip de primeira geração tem uma classificação de 700 watts e que o consumo sustentado medido se manteve em 550 watts ou menos nas workloads testadas. Também foi desenhado para funcionar em grandes sistemas, e não como um acelerador isolado.

A cobertura do The Verge indica que a OpenAI planeia uma implementação limitada até ao final de 2026 e uma expansão mais ampla em 2027. Esse calendário é importante porque o impacto económico depende do volume de implementação, utilização e maturidade de software, não apenas da liderança num benchmark.

O que isto significa para a economia das plataformas de IA

Para empresas que consomem OpenAI através de APIs ou produtos, o Jalapeño não aparecerá como um SKU de hardware. A questão relevante é se o hardware de inferência personalizado acabará por resultar em custos de serving mais baixos, respostas mais rápidas, maior capacidade em picos de procura ou preços mais agressivos. Nenhum desses resultados é garantido pelo benchmark.

Para o mercado mais amplo, o desenvolvimento reforça uma mudança estrutural. Os maiores laboratórios de IA têm agora procura de inferência suficientemente previsível para justificar silício personalizado. A Google tem TPUs, os fornecedores cloud mantêm programas próprios de aceleradores e a OpenAI está agora a mostrar resultados medidos de um chip desenhado em torno das suas workloads de serving. Os fornecedores de GPU comerciais continuam a beneficiar de enorme escala e ciclos de produto rápidos, mas os compradores hyperscale de IA têm incentivos mais fortes para otimizar internamente partes da stack.

Isto também muda a forma como arquitetos devem interpretar a performance de um serviço de modelos. O nome do modelo, por si só, é uma descrição cada vez menos completa da capacidade do sistema. Runtime, batching, sistemas de memória, networking, envelope energético e arquitetura do acelerador podem afetar diretamente a rapidez com que um agente executa e o custo de operação.

O que observar a seguir

A próxima evidência útil deverá vir da implementação, e não de outro gráfico de benchmark. A OpenAI precisa de mostrar que o Jalapeño consegue manter as vantagens em clusters grandes, tráfego real de produção, arquiteturas de modelo em evolução e utilização sustentada. Fiabilidade, yield de fabrico, comportamento de networking, tooling de software e custo total de propriedade serão tão importantes quanto os melhores pontos de benchmark.

Também será importante comparar o Jalapeño com a próxima geração de hardware de inferência concorrente usando workloads e objetivos de nível de serviço equivalentes. Blackwell é uma referência atual credível, mas decisões de infraestrutura para 2027 serão tomadas perante sistemas mais recentes.

Por agora, a conclusão defensável é mais específica: a OpenAI fez o seu programa de inferência personalizada passar de uma promessa de eficiência para resultados públicos medidos num benchmark de terceiros. Se esses ganhos sobreviverem à implementação em produção, o Jalapeño poderá dar à OpenAI mais controlo sobre a latência, a capacidade e a economia energética por detrás dos serviços agentic. O benchmark não encerra a corrida ao hardware, mas mostra que a OpenAI está a tornar-se um operador de infraestrutura de IA mais verticalmente integrado, e não apenas um comprador de aceleradores de outras empresas.

Sources
- Jalapeño’s first results show industry-leading speed and efficiency in AI inference
- OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show
- OpenAI says its Jalapeño chip can power faster AI responses than the competition
- OpenAI Jalapeño: Better Than Nvidia Blackwell