Google permite remover marca d'água de imagens geradas por IA
Remoção de marca d'água visível
O Google anunciou, por meio da conta oficial do Gemini no Twitter, que os usuários poderão decidir se imagens, vídeos e músicas gerados com o Gemini terão marcas d'água visíveis. A funcionalidade será um toggle. Segundo o vice-presidente do Google Josh Woodward, a remoção da marca d'água visível estava entre as dez funcionalidades mais solicitadas pelos usuários, conforme pesquisa realizada meses antes.
Woodward afirmou que a funcionalidade será disponibilizada "exceto em países onde a lei exige mantê-las".
Salvaguardas restantes
O Google aponta duas tecnologias como salvaguardas contra abuso: metadados C2PA (content credentials) e SynthID, uma marca d'água invisível codificada nos pixels de imagens, vídeos e áudio.
A matéria observa que metadados C2PA são triviais de remover e que a maioria das redes sociais já remove parcial ou totalmente metadados de conteúdos enviados, o que significa que quem busca espalhar desinformação não precisa necessariamente tomar passos adicionais.
Robustez e limitações do SynthID
O SynthID funciona codificando-se nos pixels da imagem e foi projetado para ser resiliente a recortes, redimensionamento e redução de qualidade. Testes da Ars Technica constataram que o SynthID se torna menos detectável com iterações, mas a imagem fica "inutilmente borrada" antes que isso aconteça.
No entanto, o próprio Gemini admite que o SynthID não foi projetado para resistir a ataques adversariais. Pelo menos dois serviços comerciais - Rephrasy e SynthID Bypass - já afirmam conseguir contornar a tecnologia. Existem também ferramentas de código aberto e guias de como fazer isso. Um autor de um post no Medium relatou ter levado "semanas, 123 mil pares de imagens, 200 imagens simples do Gemini e um entendimento muito específico de codificação por espalhamento espectral" para fazer alterações que às vezes enganavam decodificadores.
Implicações
A matéria avalia que essa decisão representa mais um marco na erosão da capacidade de reconhecer imagens geradas por IA, sendo provavelmente boa para quem lucra com conteúdo gerado por IA e ruim para os demais.