Resultados do Jalapeño levam o silício próprio da OpenAI ao centro da infraestrutura de IA

A OpenAI publicou os primeiros resultados medidos do Jalapeño, seu primeiro chip de inferência personalizado, levando um esforço de hardware há muito observado da estratégia para dados concretos de desempenho. A empresa disse em 25 de agosto que o Jalapeño entregou uma combinação mais forte de throughput, latência e eficiência energética que sistemas comparáveis no benchmark InferenceX, da SemiAnalysis. Para uma indústria pressionada a provar que enormes gastos em computação podem gerar economia sustentável, o anúncio vai além de uma atualização de chip.

O Jalapeño é voltado à inferência, a fase de produção em que modelos respondem usuários, operam agentes e geram saída token por token. A OpenAI afirmou ter testado o acelerador com GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T, mostrando que a arquitetura não se limita aos modelos da própria empresa. Nos três casos, a companhia relatou 1,5 a 1,9 vez mais trabalho de IA por watt em pico de throughput e 1,7 a 3,6 vezes menos latência de ponta a ponta.

O foco em desempenho por watt reflete a mudança na economia da IA generativa. Laboratórios de fronteira gastaram muito em clusters de treinamento, mas a inferência é o custo que se repete a cada uso de produto. Agentes aumentam essa pressão porque não respondem apenas uma vez. Eles leem arquivos, chamam ferramentas, analisam resultados intermediários e repetem várias etapas. Pequenas demoras ou custos energéticos em cada passo podem se transformar em problema de experiência e margem.

A OpenAI diz que o Jalapeño foi projetado para essas cargas desde o início. O sistema tenta reduzir movimentação de dados mantendo o estado do modelo, incluindo o KV cache usado durante a geração, perto dos recursos de computação e rede necessários. A inferência de modelos de linguagem passa por fases diferentes: processar um prompt longo exige computação, enquanto gerar tokens costuma ser limitado por memória e comunicação.

A empresa também apresentou o Jalapeño como prova de sua estratégia de pilha completa. Modelos anteriores ajudaram engenheiros a projetar e iniciar o chip, enquanto modelos mais novos apoiam otimização e programação. A OpenAI afirmou que implementações geradas por IA para blocos selecionados de atenção e mistura de especialistas rodaram 1,5 a 1,8 vez mais rápido que versões humanas anteriores, observando que o resultado vale para blocos específicos e não para modelos inteiros.

A OpenAI planeja começar a implantar o Jalapeño em sua própria infraestrutura de computação até o fim do ano, enquanto segue com qualificação de produção e maturidade de software. A segunda e a terceira gerações já estão em desenvolvimento. As alegações de benchmark ainda precisarão de validação em tráfego real, mas a direção está clara. A próxima fase da infraestrutura de IA será definida por quem consegue executar modelos poderosos com velocidade, eficiência e custo suficientes para uso constante.