Dados derivados no treinamento de IA merecem mais atenção

O problema dos dados derivados

Em um thread no X, Ed Newton-Rex argumenta que o uso de dados derivados no treinamento de IA merece tanta atenção quanto os dados piratas e coletados da web - que já geraram mais de 100 processos judiciais - e quanto os dados sintéticos produzidos por modelos "contaminados". Os dados derivados, porém, recebem menos atenção e causam o mesmo dano aos criativos.

Dados derivados são conteúdo criativo que é reescrito por um modelo de IA antes de ser usado no treinamento: em vez de treinar diretamente em frases de um livro, a empresa usa primeiro um modelo para reescrever essas frases e treina sobre o resultado.

Por que é difícil detectar

O método é mais difícil de detectar porque o modelo resultante tem menos chance de reproduzir a obra originalmente de forma literal. O dano, segundo Newton-Rex, é o mesmo: o trabalho é usado sem permissão para construir um produto que compete com seu autor.

Isso se torna mais fácil à medida que os modelos de IA melhoram, e por isso está acontecendo cada vez mais. Isso dificulta que criativos saibam quando sua obra está sendo explorada e, portanto, reduzem as chances de se defenderem.

Contorno dos opt-outs

Outro problema apontado é que os dados derivados podem servir para contornar mecanismos de opt-out. Um criativo pode ter optado, em uma plataforma, pelo não uso de sua obra no treinamento - mas provavelmente não optou por impedir que a plataforma a reescreva e treine sobre o resultado. A empresa pode gerar dados derivados, treinar sobre eles e depois afirmar que não fez nada de errado.

Solução proposta

Para Newton-Rex, a única solução real são exigências de transparência sobre dados de treinamento: governos precisam aprovar leis que obriguem as empresas de IA a revelar seus dados de treinamento. Sem isso, os criativos ficariam permanentemente correndo atrás do prejuízo - no melhor cenário, descobrindo a exploração de sua obra muito tempo depois; no pior, nunca descobrindo e ficando sem poder se defender.