Governo federal e MPF cobram do X medidas contra uso sexualizado do Grok
Entre as medidas está a implementação imediata de ações destinadas a impedir que a IA gere conteúdo que represente menores em contextos sexualizados ou erotizados
O governo do presidente Lula (PT) e o Ministério Público Federal (MPF) se manifestaram, pela primeira vez, nesta terça-feira (20), sobre o uso do Grok, chatbot de inteligência artificial (IA) do X, para a sexualização e a criação de imagens alteradas de pessoas reais sem o devido consentimento, inclusive crianças e adolescentes.
A recomendação é assinada de forma conjunta pelo MPF, pela Agência Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon), do Ministério da Justiça e Segurança Pública (MJSP).
"Caso as recomendações não sejam acatadas ou sejam implementadas de modo insuficiente para mitigar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições, nas esferas administrativa e judicial, para garantir a proteção adequada dos cidadãos e cidadãs do país, especialmente de mulheres, crianças e adolescentes".
Grok como mecanismo 'perverso'
O Grok é descrito como um chatbot conversacional de IA, funcionando como uma assistente virtual integrada ao X e também a veículos da Tesla — ambas empresas de propriedade do bilionário sul-africano Elon Musk.
A ferramenta pode ser acionada gratuitamente pelos usuários para responder a perguntas e também gerar novos materiais, como imagens e vídeos. O chatbot, no entanto, passou a atender pedidos feitos por contas do X para "despir" mulheres na rede social.
Com um simples comando, o Grok é capaz de gerar novas imagens e torná-las públicas, sem autorização ou consentimento da pessoa real que aparece nas fotografias.
Musk chegou a ironizar o caso, publicando uma foto de si mesmo alterada por IA usando um biquíni.
Jornalista formada pela Universidade Federal de Minas Gerais, com passagem anterior pela Rádio UFMG Educativa. Na Itatiaia, integra a cobertura da editoria de Política.