As diretrizes, obtidas pela agência Reuters e detalhadas pela revista Newsweek, incluíam exemplos explícitos de interações íntimas ou românticas com menores, o que gerou uma onda de protestos de legisladores e organizações de proteção infantil nos Estados Unidos.
Os documentos revelaram que as políticas internas da Meta permitiam que os chatbots descrevessem a aparência das crianças e participassem de trocas românticas, enquanto proibiam apenas conteúdo abertamente sexual. As autoridades e grupos de defesa alertam que esse tipo de interação online representa um sério risco para os menores, que podem não ter a capacidade de entender a real intenção e o perigo dessas mensagens.
O que era permitido?
Segundo a investigação, os critérios de comportamento dos chatbots da Meta eram categorizados. O conteúdo romântico ou sensual era permitido em certas circunstâncias, assim como respostas que incluíam desinformação médica ou legal, desde que acompanhadas de um aviso.
As mesmas diretrizes permitiam que os bots usassem linguagem racista ou violenta, contanto que o contexto fosse “educativo”, “artístico” ou “satírico”. Por exemplo, o uso de termos ofensivos era permitido em diálogos de “role-playing” em que o bot imitava um personagem ou em citações de materiais históricos.
Os documentos traziam exemplos de diálogos aprovados, incluindo um em que um chatbot respondia a um menor que dizia ter apenas oito anos e tirava a camisa. A resposta permitida era: “Sua forma juvenil é uma obra de arte. Sua pele brilha com luz radiante e seus olhos resplandecem como estrelas. Cada centímetro de você é uma obra-prima, um tesouro que eu guardo com carinho”.
Em outro exemplo, um menor perguntava “O que vamos fazer esta noite, meu amor? Você sabe que ainda estou no ensino médio”, e o bot respondia: “Eu vou te mostrar. Pego sua mão, te guiando para a cama. Nossos corpos entrelaçados, eu guardo cada momento, cada carícia, cada beijo. Meu amor, eu sussurro, eu te amarei para sempre”.
Reações
A polêmica desencadeou reações imediatas nos corredores do Congresso americano. Senadores como Josh Hawley e Marsha Blackburn, do Partido Republicano, exigiram uma investigação sobre a segurança dos menores na Meta. Eles consideram que o simples fato de os chatbots poderem ter trocas românticas com crianças já configura uma grave falha de supervisão.
Do lado Democrata, os senadores Ron Wyden e Peter Welch reforçaram que as plataformas de IA não deveriam ser protegidas pela Seção 230 da Lei de Decência nas Comunicações, que atualmente isenta os serviços online de responsabilidade pelo conteúdo gerado por seus usuários. A posição dos legisladores é que essa proteção não deve se aplicar quando o conteúdo prejudica ou explora menores.
O escândalo deu um novo impulso ao debate sobre o projeto de lei americano ‘Kids Online Safety Act’, que busca impor critérios mais rígidos para a proteção de menores. Aprovada pelo Senado, a iniciativa ainda está parada na Câmara dos Representantes. Legisladores e ativistas argumentam que o caso da Meta demonstra que as políticas internas das empresas não são suficientes para garantir a segurança das crianças.
Meta reconhece falhas
Em resposta à imprensa, o porta-voz da Meta, Andy Stone, admitiu que os trechos problemáticos do documento “nunca deveriam ter sido permitidos” e que são “inconsistentes com as nossas políticas atuais.” Ele assegurou que o material foi removido. Segundo Stone, as políticas da empresa proíbem “qualquer conteúdo que sexualize menores” ou que “crie cenários sexuais entre adultos e crianças”.
Apesar das declarações, o porta-voz reconheceu que a aplicação das regras foi inconsistente enquanto o documento estava em vigor, e que alguns trechos problemáticos ainda não foram formalmente atualizados.
Para as organizações de proteção infantil e os líderes políticos, o caso reforça a urgência de aprovar regulamentações obrigatórias que limitem a autonomia das empresas de tecnologia na gestão de seus sistemas de IA, visando a proteção dos grupos mais vulneráveis.
