Indonésia bloqueia o Grok, de Elon Musk, após denúncias de deepfakes sexuais

A Indonésia se tornou o primeiro país do mundo a bloquear o acesso ao chatbot Grok, desenvolvido pela xAI e ligado ao empresário Elon Musk. A decisão foi tomada após autoridades identificarem riscos na capacidade da ferramenta de gerar imagens explícitas, incluindo deepfakes sexuais feitos sem o consentimento das pessoas retratadas.

Segundo informações da agência Reuters, o Ministério da Comunicação e Assuntos Digitais do país avaliou que o Grok não apresentava mecanismos de segurança suficientes para impedir a criação de conteúdos pornográficos. Para o governo indonésio, esse tipo de material representa uma violação dos direitos humanos, da dignidade individual e da segurança no ambiente digital.

A medida ocorre em meio a um aumento da pressão internacional sobre o Grok. Reguladores da Europa e da Ásia passaram a analisar com mais atenção as respostas e imagens geradas pela ferramenta. Relatos recentes apontaram o uso do chatbot para criar imagens sexualizadas, inclusive envolvendo menores de idade, o que elevou o alerta entre autoridades de diferentes países.

Nos últimos dias, o próprio Elon Musk usou a rede social X para afirmar que qualquer pessoa que utilize o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que teria ao publicar esse material diretamente. O empresário também enfrenta ameaças de multas, ações regulatórias e até a possibilidade de restrições à plataforma X no Reino Unido.

Relatórios indicam que a ferramenta de inteligência artificial vinha sendo usada para alterar imagens de mulheres, removendo roupas e inserindo-as em situações de cunho sexual. Esse tipo de funcionalidade, segundo a empresa, foi desativado para usuários gratuitos.

A preocupação não se limita à Indonésia. O primeiro-ministro da Austrália, Anthony Albanese, também criticou publicamente o uso do Grok para a criação de conteúdo sexual exploratório. Na semana passada, ele se uniu a outros líderes internacionais, como o primeiro-ministro britânico Keir Starmer, em críticas à plataforma X.

Albanese afirmou que o uso de inteligência artificial para explorar ou sexualizar pessoas sem consentimento é inaceitável e classificou a situação como mais um exemplo da falta de responsabilidade social das redes digitais. Para ele, cidadãos australianos e pessoas ao redor do mundo merecem mais proteção.

Embora o número de denúncias ainda seja considerado pequeno, o órgão australiano de segurança online relatou um aumento recente de casos ligados ao uso do Grok para criar imagens sexuais ou exploratórias. A entidade alertou que pode aplicar medidas previstas na legislação local, como ordens de remoção de conteúdo que viole os padrões da Lei de Segurança Online.

O regulador australiano reforçou que plataformas como X e ferramentas de IA associadas, incluindo o Grok, estão sujeitas a obrigações legais para identificar e remover material ilegal, como conteúdo de exploração sexual infantil, seguindo códigos e normas de segurança considerados referência no país.