Governo federal e MPF cobram do X medidas contra uso sexualizado do Grok
Entre as medidas está a implementação imediata de ações destinadas a impedir que a IA gere conteúdo que represente menores em contextos sexualizados ou erotizados
O governo do presidente Lula (PT) e o Ministério Público Federal (MPF) se manifestaram, pela primeira vez, nesta terça-feira (20), sobre o uso do Grok, chatbot de inteligência artificial (IA) do X, para a sexualização e a criação de imagens alteradas de pessoas reais sem o devido consentimento, inclusive crianças e adolescentes.
A recomendação é assinada de forma conjunta pelo MPF, pela Agência Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon), do Ministério da Justiça e Segurança Pública (MJSP).
"Caso as recomendações não sejam acatadas ou sejam implementadas de modo insuficiente para mitigar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições, nas esferas administrativa e judicial, para garantir a proteção adequada dos cidadãos e cidadãs do país, especialmente de mulheres, crianças e adolescentes".
Grok como mecanismo 'perverso'
O Grok é descrito como um chatbot conversacional de IA, funcionando como uma assistente virtual integrada ao X e também a veículos da Tesla — ambas empresas de propriedade do bilionário sul-africano Elon Musk.
A ferramenta pode ser acionada gratuitamente pelos usuários para responder a perguntas e também gerar novos materiais, como imagens e vídeos. O chatbot, no entanto, passou a atender pedidos feitos por contas do X para "despir" mulheres na rede social.
Com um simples comando, o Grok é capaz de gerar novas imagens e torná-las públicas, sem autorização ou consentimento da pessoa real que aparece nas fotografias.
Musk chegou a ironizar o caso, publicando uma foto de si mesmo alterada por IA usando um biquíni.
Graduada em Jornalismo pela Universidade Federal de Minas Gerais, com passagem pela Rádio UFMG Educativa. Na Itatiaia, já foi produtora de programas da grade e repórter da Central de Trânsito Itatiaia Emive.