Escassez de CPUs obriga times de software a planejar capacidade
A oferta de CPUs tornou-se um gargalo de infraestrutura para empresas que desenvolvem e operam software em escala, sobretudo software agêntico. Pedidos de servidores estão sendo cotados com prazos de cerca de seis meses, contra uma ou duas semanas no passado, e os preços subiram aproximadamente 10% a 20% desde março. O CFO da Intel afirmou, em teleconferência de resultados, que a demanda os pegou de surpresa. A causa tem componente dos agentes, mas qualquer operação de software depende de CPUs.
Por que CPUs importam
Serviços de API, servidores web, execução durável (filas, workers, motores de workflow e cron), bancos de dados e CI rodam ou dependem de CPUs. Com agentes escrevendo a maior parte do código, os times passaram a rodar muito mais builds e suítes de teste do que um ano antes.
Agentes ampliam o consumo. A inferência roda em aceleradores, mas o agente inclui o harness em loop, a montagem de contexto, as chamadas de ferramentas, o parsing de respostas e sessões cada vez mais longas. Para executar código ou operar um navegador, o agente recebe um sandbox ou contêiner; com muitas sessões simultâneas, sandboxes podem se tornar um dos maiores itens da frota. Na teleconferência do primeiro trimestre, a Intel disse que datacenters voltados a IA passaram de aproximadamente 1 CPU para cada 8 GPUs para 1 para cada 4, e que cargas agênticas poderiam eventualmente chegar a 1:1. A AMD citou algo semelhante.
Como funciona a oferta
Uma fábrica de chips de ponta custa mais de US$ 20 bilhões e leva de 3 a 5 anos para ser construída. Os chips de lógica - CPUs, aceleradores e chips para celulares - são fabricados principalmente pela TSMC, em Taiwan, seguida por Intel e Samsung. A memória vem da SK Hynix, Samsung e Micron em fábricas próprias: há DRAM, a memória RAM comum, e HBM, DRAM empilhada em 8 a 12 camadas e ligada a um acelerador para alimentá-lo rápido o suficiente. Um servidor combina CPU e DRAM, além de GPUs com HBM no caso de IA.
Onde estão os gargalos
A demanda impulsionada por IA explodiu, e poucas empresas passaram a precisar de vários anos e dezenas de bilhões de dólares para ampliar capacidade. Isso criou três gargalos de fábrica. Na TSMC, GPUs competem com CPUs por linhas de produção. Nas fabricantes de memória, HBM compete com DRAM por wafers. As CPUs ficam pressionadas dos dois lados: a AMD não tem fábricas e depende da alocação restrita da TSMC; a Intel tem fábricas, mas vinha lidando com problemas de rendimento e agora está retirando capacidade de chips para PCs para fabricar mais chips de servidor. Além disso, CPUs precisam de DRAM, que ficou mais cara com o deslocamento da produção para HBM. Analistas esperam que a oferta de CPUs ganhe folga antes da de memória, mas a expectativa é de que isso ainda leve vários trimestres.
O que muda para times de software
Muitos times nunca fizeram planejamento de capacidade de CPU. Planejavam bancos de dados, talvez aceleradores, e usavam autoscaling sob demanda conforme o orçamento permitia. Agora, computação de propósito geral passa a exigir compromisso antecipado. Para quem opera em escala, há restrições de isolamento - certas cargas não podem usar hardware compartilhado, e o isolamento reduz eficiência -, exigências de geografia ou região e tipos específicos de máquina. Isso é um problema de otimização.
A entrega é só o primeiro passo. Colocar novos clusters em operação pode levar dias, semanas ou meses, dependendo da complexidade da estratégia, e tornar o bring-up mais eficiente pode ter impacto relevante. Também pode haver ineficiências no dimensionamento da frota: a utilização média de CPU no Kubernetes seria de apenas cerca de 10% no setor, em grande parte porque os times planejam margem para picos estimados e raramente revisitam essas estimativas. Por fim, há espaço para tornar a pilha de software mais eficiente, tanto na camada de serviços quanto na agêntica. Times que operam software em escala e ainda não sentiram o efeito provavelmente o sentirão em breve e deveriam reservar tempo para lidar com a escassez de CPUs.