Camiseta de camuflagem digital confunde câmeras com IA

Uma resposta ao piloto de vigilância em Berlim

O designer Simon Weckert criou a Digital Camouflage, uma camiseta colorida apresentada como indetectável por sistemas de vídeo com inteligência artificial: o objetivo é que quem a veste não seja reconhecido como pessoa. A peça surgiu como resposta a um projeto-piloto de videomonitoramento com IA na Kottbusser Tor, em Berlim, que começa este mês. Em vez de esconder o corpo, o desenho subverte aquilo que o sistema aprendeu a identificar como humano.

Como a estampa engana o detector

Weckert explica que sistemas de IA têm múltiplas camadas e nunca aprenderam o que é um ser humano, mas sim como humanos aparecem estatisticamente em milhões de imagens de treinamento. Nas camadas iniciais da rede há bordas, contrastes e gradientes de textura; nas camadas profundas, padrões parciais como a silhueta de cabeça e ombros, as proporções dos membros em relação ao tronco e a continuidade do contorno do corpo contra o fundo. Para a máquina, resume o designer, uma “pessoa” é um pacote de estatísticas visuais - e essa é exatamente sua fraqueza.

A camiseta combina cores saturadas e formas sobrepostas, e nenhum dos dois recursos isolado: é a interação entre eles, otimizada contra a máquina e não contra o olho humano. As transições de cor disparam forte nas primeiras camadas da rede, enquanto as formas quebram a continuidade do contorno corporal, de modo que o detector não consegue agrupar as partes em uma única figura. Segundo Weckert, ao olho humano o resultado parece um tecido quase hipnótico; para o modelo de IA, nada aparece.

Padrão calibrado pela própria máquina

O padrão foi elaborado com uso de IA em um ciclo de tentativa e erro que o designer chama de “laço adversarial”: gera-se uma versão candidata, mostra-se ao detector, mede-se com quanta confiança ele ainda identifica a pessoa, ajusta-se e repete-se até essa confiança colapsar. Isso seria necessário, explica Weckert, porque os pontos cegos das máquinas não são intuitivos para humanos - só a própria máquina pode dizer o que ela deixa de ver. Ele vê nisso uma simetria poética: a mesma classe de IA que vigia a praça também ensinou a camiseta a se esconder.

Os testes foram feitos com o Yolo, sistema de detecção de objetos em tempo real de código aberto. A reportagem cita ainda outro item de vestuário avaliado com o mesmo sistema: um tricô da marca Cap_able, descrito como protetor dos dados biométricos de quem veste sem precisar cobrir o rosto.