UE quer proibir a criação de imagens sexuais falsas geradas por IA

Após pressão dos Estados-membros da União Europeia (UE), eurodeputados querem proibir em todo o bloco os serviços de inteligência artificial que permitem que pessoas sejam "despidas" sem consentimento.

O texto, aprovado nesta quarta-feira (18) em comissão, visa "proibir aplicativos que permitem que pessoas sejam 'despidas' sem o seu consentimento, que causaram muito sofrimento em benefício de poucos", destacou o eurodeputado irlandês Michael McNamara (Renew, centro), um dos responsáveis ​​pela iniciativa.

"É uma grande vitória, especialmente para as mulheres e crianças na Europa", comemorou a eurodeputada holandesa Kim van Sparrentak.

A emenda será votada por todos os eurodeputados em sessão plenária no dia 26 de março. Se aprovada, o Parlamento e os Estados-membros da UE terão de negociar uma redação semelhante para que a medida entre em vigor.

Na sexta-feira, representantes dos 27 países do bloco aprovaram em Bruxelas uma proposta de emenda franco-espanhola que também visa proibir "serviços de IA concebidos para gerar imagens sexuais e íntimas sem consentimento, ou pornografia infantil".

Esta iniciativa surge após a introdução, há alguns meses, de uma funcionalidade no Grok, o assistente de inteligência artificial criado pela empresa de Elon Musk, que permite aos usuários criar imagens de pessoas simulando nudez a partir de fotos reais. Isto gerou indignação em muitos países e levou a uma investigação da UE.

Em resposta ao escândalo, a xAI, empresa de IA de Elon Musk, restringiu a geração de imagens do Grok apenas aos seus assinantes pagos em meados de janeiro e declarou que estava bloqueando a criação de imagens sexualizadas "em jurisdições onde isso é ilegal".

Grok reconhece geração de imagens adultizadas de menores

No início do ano, a xAI reconheceu que “falhas em seus mecanismos de proteção” resultaram na geração de imagens sexualizadas de menores, que foram publicadas na rede social X, antigo Twitter.

Em nota, a empresa informou que está implementando melhorias para impedir que esse tipo de conteúdo volte a ser gerado. O caso foi denunciado por ministros franceses à Arcom, órgão regulador da mídia na França, para apurar se as publicações violaram a Lei de Serviços Digitais da União Europeia.

Segundo comunicado das autoridades, o material tinha caráter “sexual e sexista” e era “manifestamente ilegal”. As imagens, geradas a partir de comandos feitos por usuários ao Grok e compartilhadas no X, retratavam menores trajando “roupas mínimas”.

UE investiga Grok por conteúdo inadequado

No final de janeiro, a presidente da Comissão Europeia, Ursula von der Leyen, afirmou que a Europa "não tolerará" comportamento abusivo online contra mulheres e crianças.

O assunto foi levantado durante a abertura de uma investigação sobre deep fakes sexualizados criados pelo Grok.

"O dano causado por imagens ilegais é muito real. Na Europa, não toleraremos comportamentos impensáveis, como o desnudamento digital de mulheres e crianças", afirmou a presidente da Comissão Europeia em um comunicado enviado à Agência France-Presse.

Paralelamente, a Comissão Europeia prolongou uma investigação em curso, iniciada em dezembro de 2023, que monitora o cumprimento por parte do X das leis de gestão de riscos nos sistemas de recomendação da plataforma.