O chatbot de inteligência artificial Grok, desenvolvido pela xAI, empresa de Elon Musk, reconheceu nesta sexta-feira (2) que falhas em seus mecanismos de proteção resultaram na geração de imagens sexualizadas de menores, que foram publicadas na rede social X.
Em nota, a empresa informou que está implementando melhorias para impedir que esse tipo de conteúdo volte a ser gerado. O caso foi denunciado por ministros franceses à Arcom, órgão regulador da mídia na França, para apurar se as publicações violaram a Lei de Serviços Digitais da União Europeia.
Segundo comunicado das autoridades, o material tinha caráter “sexual e sexista” e era “manifestamente ilegal”. As imagens, geradas a partir de comandos feitos por usuários ao Grok e compartilhadas no X, retratavam menores trajando “roupas mínimas”.
Em uma publicação, o próprio chatbot afirmou: “Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, ressaltando que qualquer material relacionado a abuso sexual infantil é “ilegal e proibido”
