Applied Compute lança nuvem AC2 para treinar e servir modelos próprios

O que foi lançado

A Applied Compute anunciou o AC2 (Applied Compute Agent Cloud), uma nuvem de treinamento e inferência para modelos de pesos abertos, disponível em beta privado. Segundo a empresa, trata-se da mesma plataforma interna que seus pesquisadores usam para construir modelos personalizados para clientes como Microsoft, NVIDIA, Cognition, Mercor, DoorDash e Harvey. A proposta é dar às equipes de IA um único ambiente para treinar modelos abertos, servi-los em escala e levar tudo o que aparece em produção de volta ao próximo ciclo de treinamento.

Fábrica de modelos em vez de escolha de modelo

A empresa sustenta sua tese no ritmo dos modelos abertos: pesos mais capazes chegam todos os meses, o que amplia o que as equipes podem construir e reduz a durabilidade de qualquer modelo único como vantagem. Nessa leitura, uma empresa não vence escolhendo o melhor modelo, mas construindo uma fábrica de modelos - um processo repetível para transformar dados próprios em melhorias de modelo. Com o AC2, a customização deixa o nível dos prompts e chega aos próprios pesos, com um modelo ajustado aos fluxos de trabalho e necessidades específicas de cada companhia.

Ponto de partida flexível

O AC2 suporta os modelos abertos recentes, permitindo escolher a base de cada carga de trabalho segundo capacidade, velocidade e custo. Quando novos pesos são lançados, as equipes podem avaliá-los rapidamente e migrar sem reconstruir a pilha. Também é possível trazer o próprio harness de treinamento e começar com algumas dezenas de linhas de código, para que os pesquisadores se concentrem em experimentos e dados, não em infraestrutura.

Experimentação como processo engenheirado

Como treinar modelos de RL é, na descrição da empresa, tanto arte quanto ciência, os pesquisadores precisam examinar o que o modelo tenta fazer para depurar problemas no ambiente, nos graders e no comportamento do agente. O console do AC2 funciona como cabine de comando para analisar rollouts, comparar execuções e iterar nos graders. A pilha de pós-treinamento busca maximizar desempenho de GPU sem sacrificar estabilidade de ML, e o plano de controle de RL adapta a carga ao crescimento do compute e do comprimento de contexto, permitindo adicionar capacidade e obter alta utilização imediatamente. Um agente de pesquisa aplicada chamado Ari acompanha o loop de treinamento: analisa resultados, revela modos de falha, converte achados em dados para o próximo experimento e monitora a saúde das execuções mesmo quando a equipe está offline.

Inferência dedicada alinhada ao treino

A pilha de servidor pode ser otimizada de ponta a ponta para a carga de trabalho, equilibrando latência, throughput e custo, com réplicas de autoescalonamento conforme o tráfego muda. Como treinamento e servir acontecem na mesma plataforma, os endpoints de produção usam a mesma configuração de amostragem, precisão numérica e kernels empregados no treino. De uma execução concluída, o checkpoint pode ser implantado em minutos, com 99,9% de disponibilidade, autoescalonamento e baixa latência via speculative decoding. Checkpoints novos entram atrás do mesmo endpoint sem alterar API, roteamento, controles de acesso ou observabilidade.

Melhoria contínua com dados de produção

Para a Applied Compute, os dados mais valiosos chegam após o deploy: interações reais de usuários, correções e feedback. Em operação, esses traços ajudam a identificar modos de falha, criar novos pontos de dados, gerar dicas para auto-distilação e orientar a próxima rodada de treinamento. A técnica de on-policy self-distillation permite aprender com o tráfego de produção mesmo quando o ambiente original não pode ser reproduzido. O resultado descrito pela empresa é inteligência que fica mais capaz, eficiente e específica a cada interação. O AC2 está em beta privado.