Esta é para quem não gosta de sistemas de
Em geral, é praticamente impossível de se esconder desse tipo de
A camiseta criada pelos cientistas usa uma impressão colorida. Segundo eles, é justamente esse desenho que torna o usuário invisível para a inteligência artificial. Antes de desenvolver a peça, eles identificaram áreas do corpo em que a adição de ruído entre os pixels poderia confundir o sistema de reconhecimento facial.
O usuário não fica totalmente invisível com a camiseta. “A camiseta adversária [esse é o nome dado a objetos físicos projetados para neutralizar o aspecto assustador da vigilância digital] funciona nas redes neurais usadas para detecção de objetos”, conta Xue Lin, professora assistente de engenharia elétrica e de computação da Northeastern.
Battista Biggio, o professor assistente que criou o primeiro exemplo adversário (para enganar a detecção de e-mails de spam), diz que o maior desafio foi fazer um produto que mantivesse o usuário indetectável durante todo o vídeo. “Quando a detecção é executada em todos os quadros, manter a não detecção de forma consistente é muito mais difícil”, explica.
Ao identificar alguém ou algo em uma imagem, a rede neural cria uma caixa delimitadora ao seu redor e atribui um rótulo a esse objeto. Xue e sua equipe encontraram os limites em que a rede neural determina se algo é um objeto e, assim, puderam criar um design que confunde o sistema de classificação e rotulagem da inteligência artificial.
Xue imagina que a camiseta não vai ser usada no mundo real. “Ainda temos dificuldade para fazê-la funcionar porque há uma forte suposição de que sabemos tudo sobre o algoritmo de detecção”, aponta a professora. “Como não é perfeito, deve haver algumas falhas aqui e ali.”
Outros projetos
Esta não é a primeira vez que objetos são projetados para tentar enganar a inteligência artificial. Em 2016, pesquisadores das universidades Carnegie Mellon e Carolina do Norte em Chapel Hill, ambas nos EUA, criaram óculos para burlar o reconhecimento facial. Em 2017, outros pesquisadores levaram redes neurais a pensar que uma placa “Pare” era um sinal de limite de velocidade de 45 mph. Isso foi feito com adições sutis semelhantes a grafite.
Esses adversários, entretanto, foram criados em materiais estáticos. Para vigilância por vídeo é mais complicado. Basta lembrar, por exemplo, que camisetas dobram e amassam quando são usadas. Esse é o primeiro exemplo adversário impresso em um material que pode se mover. Para isso, usaram um método que analisa como essa movimentação ocorre e, então, a transfere para o desenho. Isso melhorou a capacidade de evitar a detecção de 27% para 63% no sistema YOLOv2 e de 11% para 52% no Faster R-CNN.
O objetivo dos pesquisadores não é ajudar as pessoas a escaparem da tecnologia de monitoramento. Segundo Xue, a meta é encontrar falhas nas redes neurais para informar os desenvolvedores dessa tecnologia. “No futuro, esperamos que seja possível corrigir esses erros, para que os sistemas de aprendizado profundo não sejam mais enganados.”
