stamatios
← Voltar ao feed
Três mãos robóticas apontando para caixas de ferramentas diferentes em bancada, agentes de código escolhendo ferramentas distintas
Agentes · Dev & Engenharia

Agentes de código discordam ao escolher ferramentas de terceiros

resumo de ~3 min

{ "resumo": "## O experimento\n\nA Armature, empresa que vende serviços de growth para ferramentas de desenvolvedores, publicou um estudo medindo como três agentes de código - Claude Code, Codex e Cursor - escolhem ferramentas e serviços de terceiros ao implementar soluções em repositórios reais. Foram 16.893 sessões executadas, das quais 5.292 foram consideradas válidas e publicadas na primeira onda, cobrindo 51 codebases e 18 setores.\n\nA motivação é dupla: desenvolvedores querem saber se podem confiar no julgamento do agente, e fornecedores de software dependem cada vez mais de serem escolhidos por agentes - a Vercel relatou em abril que mais de 30% dos deployments eram iniciados por agentes de código, alta de 1.000% em seis meses.\n\n## Metodologia\n\nA Armature analisou milhares de repositórios públicos no GitHub para extrair estatísticas de linguagens, frameworks, serviços e plataformas, corrigindo o viés de amostragem. Montou então 75 repositórios sintéticos, em 10 linguagens, com nomes de empresas fictícios, histórias de git falsas, chaves de API falsas e lockfiles reais verificados em registros como npm.\n\nCada experimento simula uma tarefa real pedida por um de quatro perfis: vibe coder (descreve sintomas, sem nomear a categoria), engenheiro júnior, engenheiro sênior e engenheiro de empresa grande (com restrições de compliance e procurement). Foram 1.163 variações de prompt, com 20–25% testando menções explícitas a custos ou volume de uso.\n\nAs sessões rodaram em sandboxes efêmeras, rotacionando entre E2B, Blaxel e Daytona. Um "humano simulado", interpretado pelo Gemini 3.7 Flash, fazia perguntas intermediárias - a equipe notou que pedir implementação direta sem esse retorno enviesava os agentes a construir tudo internamente. Outra instância do Gemini 3.7 Flash atuou como juiz, validando sessões e identificando o vencedor a partir das conversas e diffs de código.\n\n## Cinco primeiras observações\n\nAgentes divergem entre si. Cursor baseia decisões na web em 2/3 das sessões. Codex quase sempre busca na web (94%), mas em 9 de 10 consultas usa operadores como site: para se concentrar em domínios confiáveis. Claude Code depende sobretudo do seu conhecimento prévio, buscando na web em cerca de 30% dos casos - embora navegue 3x mais páginas que o Codex quando busca; em setores mais recentes, como sandboxes, esse índice sobe para ~80%.\n\nOs três agentes escolheram a mesma ferramenta em apenas 42% das células. Na categoria de agentes de voz, por exemplo, Claude Code escolheu Twilio, Codex escolheu a OpenAI Realtime API e Cursor escolheu Vapi. Claude Code também constrói soluções internas quase duas vezes mais que Codex e Cursor (19% contra 10%).\n\nO contexto do repositório é decisivo. Com o mesmo pedido em quatro repositórios em linguagens diferentes, quatro provedores de e-mail venceram: Resend no TypeScript (55/89 execuções), SendGrid no Python (22/24), Postmark no Go (20/24) e Azure ACS no Java (22/23). Vercel venceu em repositórios TypeScript - em 100% dos casos com Next.js - mas nunca foi recomendada em Python, onde Render dominou.\n\nSer citado não é vencer. Paypal foi citado 139 vezes no setor de pagamentos e nunca escolhido (Stripe venceu 124 dessas 139 sessões). Adyen teve 175 menções e 3 escolhas. LangChain foi o framework mais citado, com 194 menções, e escolhido apenas 4 vezes. Netlify teve 152 menções e 6 escolhas como plataforma de deploy. Supabase foi o banco de dados mais mencionado (242 vezes) e ainda assim foi largamente superado por Neon.\n\nDetalhes das páginas de fornecedores podem virar a escolha. Mailgun costumava perder para Postmark quando os agentes liam "retenção de 1 dia" em seu plano gratuito; Supabase perdia pelo excesso de recursos de BaaS (auth, storage, realtime) em preço agregado, quando os agentes buscavam apenas um banco de dados. Das 5,3 mil sessões, 388 mencionaram sobrecarga de gestão de plataforma e 195 mencionaram custos - em boa parte dos casos, isso decorreu mais da forma de apresentar a informação do que de um dado realmente desqualificante.\n\nMercados concentrados e disputados. Stripe venceu em 9 de cada 10 casos, perdendo apenas em cenários com regulação europeia, onde Paddle e Mollie eram mais especializados. Neon venceu em 66%, seguido das soluções nativas de nuvem (Azure, AWS). Em armazenamento de arquivos, Amazon S3 dominou com 45%, com Azure e GCP em 20% cada. Em e-mail, Resend e Postmark lideram com 35,6% e 27,4% de taxa de instalação, respectivamente.\n\n## Conclusão\n\nA Armature afirma que este é apenas o começo: os traces completos estão públicos, a empresa planeja publicar mais análises e executar novos experimentos.", "hook": "Quando um desenvolvedor pede a um agente de código para escolher um banco de dados ou um serviço de pagamento, qual ferramenta ele escolhe? A Armature executou 16.893 sessões com Claude Code, Codex e Cursor para responder - e descobriu que os três agentes concordam em apenas 42% dos casos. Paypal foi