A
Segundo informações da agência Reuters, o Ministério da Comunicação e Assuntos Digitais do país avaliou que o Grok não apresentava mecanismos de segurança suficientes para impedir a criação de conteúdos pornográficos. Para o governo indonésio, esse tipo de material representa uma violação dos direitos humanos, da dignidade individual e da segurança no ambiente digital.
A medida ocorre em meio a um aumento da pressão internacional sobre o Grok. Reguladores da Europa e da Ásia passaram a analisar com mais atenção as respostas e imagens geradas pela ferramenta. Relatos recentes apontaram o uso do chatbot para criar imagens sexualizadas, inclusive envolvendo menores de idade, o que elevou o alerta entre autoridades de diferentes países.
Diante das críticas, a xAI anunciou mudanças no funcionamento do Grok. A empresa informou que os recursos de geração e edição de imagens seriam limitados a usuários pagantes e que os filtros de segurança passariam por melhorias para evitar abusos.
Em declaração à Reuters, a ministra da Comunicação e Digital da Indonésia, Meutya Hafid, afirmou que o governo considera a produção de deepfakes sexuais sem consentimento uma grave violação dos direitos humanos e da dignidade das pessoas no espaço digital. De acordo com a agência, o ministério também entrou em contato com representantes da plataforma X para discutir o caso. O país possui leis rígidas que proíbem a circulação de conteúdo considerado obsceno na internet.
Nos últimos dias, o próprio Elon Musk usou a rede social X para afirmar que qualquer pessoa que utilize o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que teria ao publicar esse material diretamente. O empresário também enfrenta ameaças de multas, ações regulatórias e até a possibilidade de restrições à plataforma X no Reino Unido.
Relatórios indicam que a ferramenta de inteligência artificial vinha sendo usada para alterar imagens de mulheres, removendo roupas e inserindo-as em situações de cunho sexual. Esse tipo de funcionalidade, segundo a empresa, foi desativado para usuários gratuitos.
A preocupação não se limita à Indonésia. O primeiro-ministro da Austrália, Anthony Albanese, também criticou publicamente o uso do Grok para a criação de conteúdo sexual exploratório. Na semana passada, ele se uniu a outros líderes internacionais, como o primeiro-ministro britânico Keir Starmer, em críticas à plataforma X.
Albanese afirmou que o uso de inteligência artificial para explorar ou sexualizar pessoas sem consentimento é inaceitável e classificou a situação como mais um exemplo da falta de responsabilidade social das redes digitais. Para ele, cidadãos australianos e pessoas ao redor do mundo merecem mais proteção.
Embora o número de denúncias ainda seja considerado pequeno, o órgão australiano de segurança online relatou um aumento recente de casos ligados ao uso do Grok para criar imagens sexuais ou exploratórias. A entidade alertou que pode aplicar medidas previstas na legislação local, como ordens de remoção de conteúdo que viole os padrões da Lei de Segurança Online.
O regulador australiano reforçou que plataformas como X e ferramentas de IA associadas, incluindo o Grok, estão sujeitas a obrigações legais para identificar e remover material ilegal, como conteúdo de exploração sexual infantil, seguindo códigos e normas de segurança considerados referência no país.
