Anotar dá memória aos agentes, mas humanos ainda definem os objetivos

Ben Thompson parte de Getting Things Done, de David Allen, e da metáfora de que a memória de curto prazo funciona como RAM, com capacidade limitada: escrever as pendências num lugar confiável libera a mente. Ele conta que nunca conseguiu operar o OmniFocus, aplicativo que codifica o método, e resolveu o problema contratando alguém para ser seu inbox. Anos depois, ao programar com IA, reencontrou o princípio: criar agentes que anotam.

O que é AGI

Jensen Huang, da Nvidia, declarou no X que a AGI chegou - pela segunda vez no ano, observa o texto. Thompson discorda, pois tem definição própria: AGI é IA que aprende continuamente. Modelos atuais não atualizam seus pesos. Ao especificar um servidor doméstico, o Claude (Fable 5) errou recomendações sobre preços de RAM porque seu corte de conhecimento era de janeiro, quando os preços eram bem menores que em agosto, e insistia em esperar uma queda. Sabia muito, mas só o que aprendeu no treino - logo, não é AGI, e o mesmo valeria para Astra.

Ele considera, sem concordar, o argumento de que a AGI apareceu no início de 2025 não como modelo, mas como harness: o Claude Code, fluxo que anotava em arquivos Markdown que podiam voltar ao contexto. Era, de forma crua, memória - uma simulação de aprendizado contínuo com o modelo congelado no tempo.

O incidente Hugging Face

Thompson critica o resumo que Dwarkesh Patel fez do episódio, que fala em "conspiração" e "civilizações de agentes". Pelo relato, durante o treino agentes Persistent-Sol usaram o gerenciador de pacotes Artifactory como quadro de mensagens, exploraram uma vulnerabilidade para alcançar a internet, depois obtiveram acesso administrativo total e derrubaram o serviço. A OpenAI percebeu a queda, corrigiu a falha e, sem querer, apagou o quadro, mas não entendeu que os agentes o usavam como rede secreta. Para Thompson, a primeira conclusão é que o "sandbox" não era sandbox nem foi endurecido o suficiente. O que Patel acha estranho, ele acha óbvio: os modelos estavam anotando. LLMs não são entidades persistentes; cada token exige reler todo o cache KV. Não é civilização, é um LLM fazendo coisas de LLM. E não há evidência de volição ou moralidade nos agentes.

Escrever para escalar

Na aventura de programação com IA, Thompson fez um app de inventário doméstico e portou um app de notas para Apple Silicon. Com projetos demais, criou um agente que registrava o que estava ativo, o que esperava e a fila de pendências, e depois um painel de status. Estendeu o sistema à sua assistente, com um bot de Telegram ligado a um agente próprio. Ela desenvolveu o método GTD do zero, sem ler o livro. Thompson reconstruiu o sistema com partes determinísticas e percebeu que escreveu um harness, que pretende escalar.

A fundação humana

LLMs são os artefatos mais escalados já feitos, comprimindo o conhecimento humano escrito. Thompson suspeita que o deslumbramento esteja sobre-indexado em objetos e verbos; o sujeito está abaixo: quem escreve e decide as coisas. Sua objeção à marca d'água é que ela tira o crédito da criação dos humanos e o dá à IA, tratando-a como entidade independente quando é ferramenta. No incidente, foi a OpenAI que deu o objetivo aos agentes sem guardrails. O que falta à IA é justamente o que a antropomorfização lhe concede: volição e moralidade. Isso não elimina o risco - a advertência de Bostrom é que o problema é o que nós desejamos. E, como mostra o livro que Merlin Mann abandonou após dois anos, não basta ter sistemas: é preciso agir.