OpenAI vai adicionar marca d'água invisível em textos no EU

O anúncio

A OpenAI detalhou sua estratégia de proveniência de texto em resposta ao AI Act da União Europeia, que exige que provedores de IA generativa tornem textos gerados identificáveis de forma legível por máquina. A empresa enfatiza que marca d'água e detecção de texto ainda são tecnologias iniciais, com limitações significativas, e que sua abordagem em fases reflete tanto as exigências regulatórias quanto os limites técnicos.

O plano tem três frentes: clientes da API em todo o mundo já podem ativar voluntariamente a marca d'água para modelos selecionados (ela permanece desativada por padrão); nas próximas semanas, uma marca d'água invisível será adicionada à saída de texto elegível do ChatGPT e do Codex na União Europeia, sem virar padrão global no lançamento; e a empresa abrirá inscrições para acesso ao detector de marca d'água, restrito inicialmente a pesquisadores aprovados e organizações especializadas.

Como funciona e o que os testes mostram

A tecnologia, chamada textGrain, insere um sinal estatístico invisível nas escolhas de palavras do modelo, e o detector busca esse sinal para avaliar se um trecho contém marca d'água da OpenAI. A empresa diz que planeja abrir o código da tecnologia e publicar detalhes adicionais em relatório técnico. Nos testes internos, textGrain igualou ou superou outras abordagens avaliadas, incluindo o SynthID para texto.

Os resultados também revelam limites importantes. Com taxa alvo de falsos positivos de 1%, o detector identificou marcas d'água em cerca de 80% de trechos de 200 tokens e cerca de 95% de trechos de 400 tokens em conteúdos como psicologia; em matemática, onde há menos flexibilidade na escolha de palavras, as taxas caem substancialmente. Edições também enfraquecem o sinal: em trechos de 400 tokens, substituir 10% das palavras por sinônimos reduziu a detecção de cerca de 92% para 66%, e substituir 25% das palavras derrubou a taxa para 17%. Essas limitações motivaram a decisão de liberar o detector apenas para pesquisadores aprovados.

Qualidade e o que a marca d'água não revela

Em benchmarks usados para avaliar o Astra, modelo frontier mais recente da empresa, a OpenAI não observa diferenças de desempenho relevantes entre texto com e sem marca d'água. Nos exemplos citados, as variações foram pequenas - por exemplo, 49,57 contra 49,76 pontos no Artificial Analysis Intelligence Index e 94,44% contra 93,94% no GPQA Diamond.

A empresa lista o que a detecção não permite concluir: a marca d'água não mede a contribuição humana, não estabelece propriedade ou responsabilidade legal, não identifica o usuário, não verifica a precisão do conteúdo e a ausência de detecção não prova autoria humana - o texto pode ser curto demais, editado, traduzido, gerado por modelo sem suporte ou por ferramentas de outras empresas.

Próximos passos e abordagem mais ampla

A OpenAI defende uma estratégia em camadas para proveniência: Content Credentials em imagens, conformidade com C2PA, marcas d'água SynthID em imagens e áudio, além das ferramentas de verificação openai.com/verify e da Content Provenance API, que permanecem públicas. Para texto, a empresa reconhece que a facilidade de reescrita, tradução e edição exige cautela, e afirma que vai melhorar a detecção, estudar a resistência das marcas a edições e explorar formas de distinguir assistência de IA de autoria de IA. A abordagem será revisada conforme evoluam tecnologia, padrões e exigências regulatórias, com expansão do acesso ao detector quando a empresa julgar que os resultados podem ser interpretados de forma responsável.