Serra circular: agentes de código geram código demais

A tese: barato criar, caro possuir

Simon Green argumenta que a IA derrubou o custo de produzir código, testes, documentação, políticas e estruturas organizacionais, mas não o custo de entendê-los, validá-los, mantê-los e eventualmente apagá-los. O resultado previsto é o excesso de engenharia em tudo - não porque os artefatos sejam ruins, mas porque desapareceu o atrito que funcionava como filtro, forçando alguém a decidir se cada camada extra valia a pena.

O caso Wheelhouse

Green parte do relato de Steve Yegge sobre o Wheelhouse, sistema com cerca de 50 a 60 agentes (18 papéis de 'oficial') usado para desenvolver o jogo Wyvern. Em menos de dez semanas, o sistema ajudou a aproximar o relançamento do jogo em Android, iOS e Steam, com média de 270 commits por dia. Mas a fábrica cresceu para cerca de 600.000 linhas de código e testes, enquanto o próprio jogo (sem conteúdo) tem apenas o dobro disso, rumando para uma proporção de um para um. Os agentes criaram 450 artefatos legais, mais de 100 'fences', uma constituição, jurisprudência e jurisdições - a ponto de Yegge criar o cargo de Head of Wheelhouse Law para podar decisões obsoletas e 'governar a governança'.

Green faz ressalvas: comparar o código da fábrica com o do produto não é totalmente justo, pois a fábrica concentra funções que numa organização humana ficariam escondidas em reuniões, salários e ferramentas. Agentes sem estado realmente precisam de decisões persistentes, limites de autoridade e mecanismos de reversão. Jogadores chegaram a pedir desaceleração das funcionalidades, e Yegge redirecionou 80% do gasto em tokens para dentro da própria fábrica.

O mecanismo: capacidade busca utilização

O autor identifica o mecanismo de 'capacity seeks utilization': uma frota de agentes ociosa parece desperdício, o trabalho é decomposto de forma mais agressiva e os retroalimentamentos se acumulam. O Wheelhouse acumulou mais de 700 itens de trabalho projetados mas não implementados, e Yegge estimou que trabalhar no Wheelhouse consumiu 20 a 25% de todo o seu esforço no Wyvern. Em um momento, os agentes produziam mudanças mais rápido do que o sistema de merge absorvia. Cada passo individual parecia racional; o todo avançava cada vez menos. Regras endurecem de costume em aviso, depois em lei constitucional, depois em aplicação mecânica - os agentes cresciam o sistema em vez de curá-lo.

Atividade não é valor

Green cita pesquisa correlacional da Faros sobre telemetria de mais de 10.000 desenvolvedores: times com alta adoção de IA completaram 21% mais tarefas e mesclaram 98% mais pull requests, mas o tempo de revisão subiu 91%, o tamanho médio dos PRs 154% e os bugs por desenvolvedor 9%; no nível da empresa, não havia relação significativa entre adoção de IA e melhores resultados. Uma pesquisa auto-declarada da BetterUp sobre 'workslop' aponta que 40% dos trabalhadores de escritório nos EUA disseram ter recebido no mês anterior trabalho gerado por IA que parecia plausível, mas empurrava o pensamento e o conserto para quem recebia.

O que fazer

Green não propõe abolir controles: ele apoia tanto regras contextuais quanto contenção rígida para ações irreversíveis e de alto impacto, notando que Yegge admite que mesmo seu modelo mais forte toma pelo menos uma decisão terrível por dia em operação não supervisionada. O problema não é a governança, mas governança cujo volume é confundido com qualidade. Suas sugestões: orçamento para a maquinaria interna, regras que enderecem falhas reais e nomeadas, caminhos de revisão e aposentadoria para políticas, testes e papéis, e medir o que existe fora da fábrica - se a experiência do cliente, a velocidade das decisões ou a confiabilidade melhoraram.

A conclusão: a fábrica já produz mais do que sabemos usar, e o julgamento de 'isto merece existir?' tornou-se a parte escassa do trabalho. Se a estrutura anda rivalizando com o prédio, a resposta não é automaticamente um chefe de estrutura.