Golpes com IA: especialistas alertam para riscos e dão dicas para identificar deepfakes
Caso do pedreiro que viajou mais de 2 mil km por um romance com IA acendeu o alerta para golpes. Especialistas detalham como identificar deepfakes, as ferramentas de proteção e as consequências legais para fraudes com inteligência artificial
O caso do pedreiro Edimar Rocha Martins, que viajou mais de 2 mil quilômetros entre Imperatriz, no Maranhão, e Belo Horizonte, na região Central de Minas Gerais, em busca de um romance com uma mulher criada por inteligência artificial, acendeu um alerta nacional para os perigos dos golpes com deepfake. Especialistas em tecnologia e direito explicam como identificar vídeos falsos, as ferramentas de proteção e as consequências legais para quem produz ou compartilha conteúdos manipulados.
A história de Edimar, conforme noticiado pela o drama do pedreiro Edimar Rocha Martins, que foi parar em Minas Gerais atrás de uma mulher que não existia, destaca a sofisticação atual da inteligência artificial. De acordo com o cientista de dados Arnobio Morelix, da Faculdade Sirius, o estranhamento com um vídeo de IA deve ir além da aparência humana, já que a imagem ou voz sintética tem melhorado cada vez mais.
“O mais importante é lembrar que esses sinais estão ficando mais fracos a cada dia. O deepfake tem ficado mais sofisticado”, alerta o especialista. Para compreender a evolução da inteligência artificial, é crucial observar que ferramentas de detecção também estão em constante desenvolvimento.
Marcio Fabozi, especialista em IA e CEO da Allcom Telecom, explica que programas de identificação forense digital, como SynthID, Hive AI e Reality Defender, ajudam a rastrear e identificar se um vídeo foi gerado por inteligência artificial. Contudo, ele pondera: “É importante entender que nenhuma dessas ferramentas é infalível. Um detector como esses pode apontar indícios de manipulação, mas a confirmação depende de outras verificações, como a fonte, o contexto e a autenticidade da informação. A inteligência artificial está evoluindo rapidamente, e os mecanismos de proteção precisam acompanhar esse avanço”.
Existe também a tecnologia C2PA, um tipo de marca d’água que fica impregnada em alguns conteúdos de IA e auxilia na identificação da origem dos materiais. No entanto, a ferramenta não é utilizada por todas as plataformas generativas; Gemini e Claude são exemplos que empregam essa marca para rastreio.
Fabozi reforça que os vídeos manipulados podem ser um grande atrativo para golpes. “O vídeo falso funciona como uma isca, e o risco aumenta quando a pessoa acredita naquela mensagem e acaba fornecendo informações, acessando páginas fraudulentas ou instalando programas maliciosos. Por isso, sempre reforço que a tecnologia precisa caminhar junto com a conscientização. Antes de clicar, de compartilhar qualquer informação ou de realizar uma transação, é fundamental verificar a origem daquela solicitação”, alerta o especialista sobre os perigos dos vídeos manipulados.
A produção e o compartilhamento de um deepfake podem configurar crime. O advogado Rodrigo Baraldi explica que o uso do vídeo como “instrumento de estelionato, de crimes contra a honra ou de violência psicológica contra a mulher” se enquadra na ilegalidade.
“Se o deepfake for utilizado em um golpe que configure fraude eletrônica, a pena prevista é de quatro a oito anos de reclusão e multa, podendo haver aumentos conforme o caso. A pena acompanha o crime praticado, não o nome da tecnologia utilizada”, detalha o advogado. Ele acrescenta que, em casos de conteúdo de nudez ou falsa acusação de crime, a responsabilidade criminal também é compartilhada com quem repassa o vídeo.
Em situações como a do pedreiro Edimar Rocha, é possível questionar um dano ou prejuízo na Justiça cível e criminal, segundo Baraldi. “A vítima pode exigir o ressarcimento dos prejuízos financeiros e indenização por danos morais, conforme os danos e a responsabilidade demonstrados. Também pode pedir a retirada do conteúdo e medidas urgentes para interromper sua divulgação. A reparação civil não depende, como regra, de uma condenação criminal: uma conduta pode gerar o dever de indenizar mesmo sem configurar crime. No processo criminal, além da punição do responsável, a sentença condenatória pode fixar um valor mínimo de reparação, desde que observados os requisitos processuais, inclusive o pedido adequado e o direito de defesa”, esclarece o especialista.
Edimar Rocha Martins, de 49 anos, viajou mais de 2 mil km de Imperatriz, no Maranhão, até Belo Horizonte, na região Central de Minas Gerais, motivado pela promessa de um romance e uma vida em uma fazenda. Ele chegou à capital mineira no domingo (11), após sair na última sexta-feira (9), esperando encontrar "Jéssica", a mulher com quem interagia nas redes sociais. Somente ao chegar, descobriu que o perfil e as respostas eram gerados por inteligência artificial.
Em conversa com a Itatiaia, o pedreiro relatou que, após perder a mãe, a solidão o levou a buscar esperança na figura virtual de "Jéssica".
A repercussão do caso levou a Prefeitura de Belo Horizonte a emitir um alerta nas redes sociais sobre os riscos de conteúdos criados ou manipulados por inteligência artificial. “Informação também é uma forma de proteção. Compartilhe esse alerta e nos ajude a evitar que outras pessoas passem pela mesma situação”, finalizou a publicação municipal. Até o momento, a Polícia Civil informou que o caso de Edimar não foi registrado.
Leia mais
Acompanhe as últimas notícias produzidas pela CNN Brasil, publicadas na Itatiaia.