Anatomia da autonomia de agentes de IA

Os dois fatores que definem o teto de autonomia

Jina Yoon, da PostHog, argumenta que a decisão de quanto delegar a agentes de IA não depende da qualidade do modelo, mas de duas perguntas sobre a tarefa: (1) é fácil verificar o trabalho do agente? e (2) é barato desfazer um erro? A combinação dessas respostas gera quatro níveis de autonomia.

Os quatro níveis

Nível 0 – Agente como assistente: tarefas difíceis de verificar e caras de desfazer. Exemplo: migração de um motor de feature flags que tocava flags de clientes ao vivo. A estratégia para subir de nível é decompor a tarefa em pedaços menores e delegar apenas os menos críticos.

Nível 1 – Humano no loop: tarefas difíceis de verificar, mas baratas de desfazer (o código fica em draft até aprovação). Típico de refatorações de legibilidade. Para evoluir: usar LLM-as-judge, definir métricas mensuráveis como proxy de avaliação subjetiva, e escrever "skills" customizadas que codifiquem padrões do time.

Nível 2 – Delegação ao agente: tarefas fáceis de verificar, mas caras de desfazer. É o padrão atual para a maioria do trabalho de desenvolvimento. O exemplo citado é a reescrita do parser SQL da PostHog em Rust: o agente escreveu o código, testes determinísticos validaram, mas o merge passou por shadow mode em produção e cutover gradual. Para subir de nível: codificar guardrails diretamente no pipeline (dry-run por padrão, credenciais com escopo limitado, feature flags) em vez de depender de revisão humana como gargalo.

Nível 3 – Modo autônomo: tarefas fáceis de verificar e baratas de desfazer. Ainda são poucas - dependency bumps, lint fixes, cobertura de testes - mas a categoria cresce com agentes de longa duração e loops orientados a objetivo. A PostHog lançou "Scouts", agentes que rodam em schedule, investigam sinais de dados de produto e abrem PRs. Para avançar: treinar modelos domain-specific, construir bancos de contexto estruturados e definir sinais claros para que agentes saibam quando há trabalho válido.

Observação sobre escala

Yoon nota que escala não é fator para determinar o nível de autonomia. Orquestração multi-agente torna a autonomia urgente, mas se a autonomia estiver correta no nível da tarefa, a escala se resolve sozinha.