Grok, IA de Elon Musk, limita edição de imagens após casos de deepfakes no X

O X, antigo Twitter, limitou a edição de imagens feita pela ferramenta de inteligência artificial (IA) da plataforma, o Grok, após a criação de diversas deepfakes de conteúdo sexual.

Segundo a BBC, agora, a edição de imagens é limitada apenas a usuários que pagam pelo uso do X. Dessa forma, a plataforma terá acesso a nomes e informações de pagamento dos usuários.

Quem não é assinante ainda pode usar o Grok para editar imagens no aplicativo e no site da plataforma de IA.

O chatbot atendeu a diversos pedidos de usuários para alterar digitalmente imagens de outras pessoas, sobretudo mulheres, deixando-as sem roupas sem o consentimento delas, o que causou uma grande polêmica.

• Atriz Jamie Lee Curtis é alvo de deepfake no Instagram e faz apelo a Zuckerberg
• 3 a cada 5 brasileiros não sabem o que é deep fake

Pessoas não foram responsabilizadas

A chefe da instituição Internet Watch Foundation, Hannah Swirsky, afirmou que a ação do Grok de retirar o acesso dos usuários em vez de tomar as medidas cabíveis para que ele não fosse usado para fins abusivos "não desfaz o dano que foi causado".

"Não acreditamos que seja suficiente simplesmente limitar o acesso a uma ferramenta que nunca deveria ter tido a capacidade de criar o tipo de imagem que vimos nos últimos dias", disse à BBC.

A instituição havia constatado que foram feitas imagens inapropriadas de meninas de 11 e 13 anos usando o Grok.

"Ficar sentado esperando que produtos inseguros sejam usados indevidamente antes de tomar providências é inaceitável", acrescentou Swirsky.