OpenAI passa a inserir marcas d'água invisíveis no ChatGPT na UE
OpenAI começa a aplicar marca d'água invisível em textos na União Europeia
A OpenAI começou a inserir uma marca d'água invisível em conteúdo gerado pelo ChatGPT e pelo Codex para usuários da União Europeia. O lançamento é uma resposta aos requisitos do EU AI Act, que exige proveniência de conteúdo gerado por IA. Em sua conta no X, a empresa afirmou que está expandindo sua abordagem de proveniência para incluir texto, enquanto reconhece as limitações significativas da tecnologia atual de marca d'água textual.
Como funciona o textGrain
O sistema se chama textGrain. Ele adiciona um sinal estatístico oculto por meio das escolhas de palavras do modelo, que um detector pode buscar depois. Segundo a OpenAI, o textGrain igualou ou superou abordagens que a empresa testou, incluindo o SynthID para texto do Google - mas a própria companhia admite que a detecção pode falhar.
Os números dos testes mostram o alcance e os limites: o detector encontrou as marcas d'água em cerca de 80% de passagens de psicologia com 200 tokens, subindo para cerca de 95% com passagens de 400 tokens. A edição do texto enfraquece consideravelmente o sinal: substituir 10% das palavras por sinônimos derrubou a detecção de cerca de 92% para 66%, e substituir 25% do texto gerado pela IA a reduziu a 17%.
Por que a marca d'água não é infalível
A OpenAI deixa claro que a marca d'água não funciona como um selo definitivo de "escrito pelo ChatGPT". Ela fornece apenas um sinal limitado sobre o papel dos sistemas da empresa na criação do texto: não consegue medir a contribuição humana, estabelecer autoria, identificar o usuário nem verificar se o texto é preciso. Além disso, a ausência da marca d'água não prova que o texto foi escrito por humanos - ela indica que houve envolvimento da IA, mas não necessariamente o quanto.
O contexto mostra que o problema não é exclusivo da OpenAI: a abordagem de marca d'água da Anthropic para o Claude também já gerou questionamentos sobre confiabilidade e praticidade, e já existe um projeto de código aberto no GitHub, o watermarks-remover, capaz de remover impressões digitais de IA - incluindo marcas d'água estatísticas de texto - do OpenAI, do Gemini e do Claude.
Disponibilidade e acesso
A OpenAI aplicará a marca d'água nas saídas elegíveis do ChatGPT e do Codex em todos os planos da União Europeia nas próximas semanas, mas não tornará a marca d'água um padrão global no lançamento. Clientes da API no mundo inteiro já podem aderir à marca d'água para modelos selecionados desde já. Pesquisadores aprovados e organizações especializadas podem solicitar acesso ao detector, que permanecerá restrito inicialmente.