Chips 'Jalapeño' da OpenAI superam a Nvidia em testes iniciais

A OpenAI afirmou que seus novos chips personalizados, chamados Jalapeno, tiveram desempenho superior ao da linha atual da Nvidia em testes iniciais - um indicador do progresso da empresa em desenvolver processadores próprios para IA. Segundo Richard Ho, chefe de chips da OpenAI, o Jalapeno liderou duas categorias na medição: quantidade de trabalho de IA por unidade de energia e velocidade para retornar respostas. O comparativo foi feito contra o GB300, então a melhor opção do sistema público de benchmarks usado no teste.

Como foi avaliado

Os testes públicos usaram um modelo menor de código aberto da própria OpenAI e modelos de terceiros da DeepSeek e da Moonshot AI. As vantagens foram maiores no modelo Kimi, da Moonshot, o maior avaliado. Em testes internos, o chip também se saiu bem com alguns grandes modelos avançados da OpenAI ainda não lançados, o que, segundo a empresa, indica que o design fica mais valioso à medida que as cargas de trabalho crescem e se tornam mais exigentes.

Uso planejado e economia de custos

A companhia pretende começar a usar os Jalapeno para dar suporte a seus modelos ainda este ano, dentro do esforço mais amplo de construir infraestrutura própria. Ho disse que o chip deve reduzir significativamente os custos - condicionado, porém, à capacidade de ampliar a produção e de as economias se confirmarem na escala esperada. Normalmente, alguns chips são mais potentes para executar tarefas de IA e outros são melhores em respostas rápidas; o Jalapeno entrega os dois perfis, permitindo escolher opções de economia ou de desempenho. Como obtém bons resultados em baixa voltagem - 700 watts -, deve gerar economia nos data centers, onde energia é um custo central. O chip nasceu de parceria com a Broadcom, anunciada no ano anterior e celebrada em junho pelo prazo recorde de desenvolvimento.

Escopo e limitações

Há ressalvas relevantes: o Jalapeno não foi testado contra a nova geração Vera Rubin, da Nvidia, que acaba de começar a ser entregue. Também não é projetado para treinar modelos - área em que a tecnologia da Nvidia se destaca -, apenas para inferência, fase em que modelos já treinados respondem a comandos. O nível de velocidade alcançado antes só era possível com chips de outro tipo de memória e design, como os da Cerebras Systems, usados pela OpenAI em parte de seus modelos; esses, porém, servem melhor a modelos menores, enquanto o Jalapeno lida com maiores. Ainda assim, Ho afirmou que a tecnologia própria não substituirá provedores como a Cerebras em breve, porque a necessidade de computação continua grande. E a Nvidia permanece fornecedora essencial: “continuamos precisando de muita Nvidia”.

Concorrência e próximos passos

Ho apresenta os resultados na conferência Hot Chips, em Stanford, e disse que a OpenAI quer divulgar seu trabalho para estimular inovação no setor. Outras empresas perseguem ideias parecidas: a Etched, que levantou recursos com avaliação de US$ 21 bilhões, começa a entregar um chip de baixa voltagem, e a MatX, fundada por ex-integrantes do negócio de silício do Google, trabalha num semicondutor que visa unir alta vazão e baixa latência. A OpenAI usou seus próprios modelos de IA para acelerar o desenvolvimento do chip: uma segunda versão está adiantada, com tape-out (etapa final do design) previsto para os próximos meses, e os conceitos de uma terceira geração já estão sendo desenhados. Sobre a meta de baratear a infraestrutura que constrói globalmente, Ho resumiu: “este é o passo um”.