Documentos gerados por IA enterram o propósito sob detalhe excessivo

A frustração do autor com textos de IA

Colin Breck relata que pessoas que antes escreviam pouco agora produzem massivamente, com IA, propostas de design, planos de negócio, documentação, apresentações, tickets, pull requests e resumos de reuniões - tudo, segundo ele, ilegível. Um padrão recorrente: alguém constrói algo com IA e depois usa IA para gerar retrospectivamente um documento de design descrevendo o que já foi construído. Para o autor, isso elimina a função original do documento como proposta para construir consenso e refinar ideias por meio de pensamento lento. Pull requests resumidos "por máquinas para máquinas" detalham o que mudou, mas não respondem por que o trabalho importa, qual o risco, nem onde se espera contribuição. Ele cita também mensagens pessoais "retrabalhadas" com IA que se tornaram frias e desconexas, e o caso mais ofensivo: alguém resumiu com IA os comentários dele e respondeu com o próprio resumo.

O problema do contexto

Breck aponta que quem formulou os prompts e forneceu os artefatos (código, logs, documentação) consegue navegar rapidamente a saída da IA; quem recebe o texto não tem contexto e é forçado a ler cada linha para tentar reconstruí-lo. Ele cita pesquisa de Cynthia Dunlop sobre reação de desenvolvedores a artigos "com cheiro de IA": 78% param de ler quando suspeitam de autoria por IA, 71% evitam o autor no futuro, e 98% preferem a escrita própria do autor, com falhas e idiossincrasias. Bryan Cantrill, no ensaio "The revolt of the reader", descreve isso como uma "alavanca de ejeção" mental acionada ao detectar texto de LLM.

Onde a IA agrega valor

Em contrapartida, Breck escreveu um artigo acadêmico (submetido à CIDR) usando IA intensivamente, sem que ela escrevesse uma única linha. Ele fornecia guia de estilo, template LaTeX, papers anteriores, código-fonte e logs de produção, e usava a IA para verificar o que ele mesmo escreveu - conferindo índices de banco, ordenação de arquivos Parquet, gramática, citações em BibTeX e diagramas em TikZ. O modelo até encontrou um erro de notação que quatro revisores humanos especialistas não notaram. Curiosamente, o inverso - pedir à IA que escrevesse o parágrafo a partir do contexto - nunca foi útil, sempre desagradável e frequentemente impreciso. A exceção foi o abstract, a parte mais mecânica e abstrata do paper.

Limites e caminhos

Breck cita Murat Demirbas, para quem a qualidade da escrita de LLMs estagnou porque, diferentemente de programação ou matemática, não há formulação clara com saída verificável; e LLMs, sem modelo mental de um leitor específico nem experiência vivida, não conseguem empatizar. Ele menciona duas iniciativas: o padrão ASD-STE100 Simplified Technical English, adaptado para IA, que pretende testar em instruções de instalação e runbooks; e o Pangram, modelo detector de texto de IA, que Cantrill já usa para exigir que toda escrita pública na Oxide seja reportada como de autoria humana.

Escrita e incerteza

Recorrendo a Iain McGilchrist, Breck argumenta que quanto mais importante algo é, mais difícil reduzi-lo à linguagem, e que operações, resposta a incidentes, desenvolvimento de produto e revisões de desempenho envolvem incerteza e narrativa, não só fatos. Simon Sarris resume: "narrativa resiste à compressão". O risco dos resumos automáticos é poupar o leitor de construir seu próprio modelo mental complexo, perdendo atenção a detalhes e relações que só emergiriam nesse esforço. Breck conclui que escrever com intenção tende a se tornar mais valioso: quem escreve para pensar continuará escrevendo; quem nunca foi escritor usará IA para produzir muito texto. "Eu não quero ler o que você não escreveu."