Anthropic marca texto trocando palavras e irrita escritores

Como funciona a marca d'água textual da Anthropic

A Anthropic anunciou que versões futuras do Claude gerarão texto com marca d'água indicando origem artificial. Segundo a empresa, nada é adicionado ao texto e não há caracteres ocultos. O mecanismo altera a fonte de aleatoriedade usada para escolher entre palavras candidatas: em situações onde o modelo considera várias opções igualmente prováveis - como "grey" ou "overcast" após "The weather today was cold and" -, um gerador de números aleatórios controlado por uma chave substitui o gerador padrão. Quem possui a chave pode verificar se a sequência de escolhas é consistente com o padrão esperado e atribuir uma probabilidade de o texto ter sido gerado pelo Claude.

A Anthropic afirma que a marca d'água não impacta a qualidade do texto e que, em testes internos, não observou diferença em conteúdo, criatividade ou legibilidade. A empresa atribui a mudança às novas regulamentações de inteligência artificial da União Europeia.

Crítica: palavras tratadas como fungíveis

O artigo argumenta que a explicação da Anthropic revela uma visão mecanicista da escrita. A empresa descreve a escolha entre sinônimos como uma questão de "baixa relevância" decidida por um número aleatório, o que, segundo o autor, ignora que escritores humanos escolhem palavras por razões estilísticas, emocionais, contextuais e estéticas que nem sempre são redutíveis a equivalência semântica.

Jeff Jarvis, acadêmico de jornalismo, afirmou que a Anthropic "desvaloriza a escrita" ao declarar palavras fungíveis, linguagem aleatória e escolha sem significado. John Gruber, do Daring Fireball, também criticou a abordagem em ensaio citado no artigo.

A questão da avaliação de qualidade

A pesquisa citada pela Anthropic foi conduzida por pesquisadores do Google sobre o SynthID, ferramenta de marca d'água textual. O estudo avaliou qualidade pedindo a usuários do Gemini que dessem "polegar para cima" ou "polegar para baixo" a respostas com e sem marca d'água, em aproximadamente 20 milhões de respostas. A diferença na taxa de aprovação foi de 0,01%. O autor argumenta que esse método é inadequado para avaliar qualidade de escrita, pois usuários de chatbot não são necessariamente leitores atentos ao estilo.

Uma avaliação humana lado a lado também foi feita, com trechos de exemplo mostrando variações como "respiratory failure" versus "cessation of breathing". O artigo questiona por que tais diferenças seriam irrelevantes quando a própria Anthropic exige "saída exata" para código, mas trata texto como intercambiável.

Conclusão do autor

O autor reconhece que sua objeção não é exclusivamente à marca d'água, mas ao texto gerado por IA em si, que ele considera inerentemente distinto da escrita humana por carecer de intencionalidade consciente. A marca d'água, porém, explicita de forma clara como as empresas de IA enxergam a linguagem: como um jogo probabilístico onde sinônimos são substituíveis sem consequência, o que contrasta com a experiência humana de escrever.