Justiça reconhece responsabilidade de plataforma por conteúdo falso de nudez usando IA

A Justiça decidiu pela responsabilização de uma plataforma digital pela manutenção de conteúdo que utilizou indevidamente a imagem de uma mulher para simular nudez por meio de inteligência artificial. A decisão da 2ª Câmara Cível do Tribunal de Justiça de Mato Grosso do Sul foi tomada de maneira unânime e proferida no julgamento de uma apelação cível sob relatoria do desembargador Nélio Stábile.

No caso, a autora da ação e usuária da plataforma digital teve sua fotografia utilizada por terceiros para a criação de imagens manipuladas por inteligência artificial. Nelas, a mulher foi retratada sem roupas e associada a conteúdo de cunho sexual. As publicações foram acompanhadas de legenda considerada degradante e alcançaram significativa repercussão na plataforma, com milhares de visualizações e interações.

Conforme os autos do processo, a vítima comunicou a plataforma sobre a violação em 21 de janeiro de 2025, por meio dos canais disponibilizados pela própria empresa. Ela descreveu detalhadamente o uso indevido de sua imagem com emprego de inteligência artificial. No entanto, o conteúdo manipulado digitalmente permaneceu disponível na plataforma por período prolongado, sendo retirado apenas após a judicialização do caso.

Em primeira instância, o juízo da comarca de Camapuã, no Mato Grosso do Sul reconheceu a ilicitude do conteúdo e determinou sua remoção. No entanto, afastou a condenação da empresa responsável pela plataforma ao pagamento de indenização por danos morais.

Em segunda instância, ao analisar o recurso da autora, o relator do processo destacou que o caso se enquadra na hipótese específica prevista no artigo 21 do Marco Civil da Internet (Lei nº 12.965/2014), que trata da divulgação não autorizada de conteúdo envolvendo nudez ou caráter sexual.

“O artigo 21 do Marco Civil da Internet estabelece regime próprio de responsabilização subsidiária do provedor de aplicações quando, após notificação do participante ou de seu representante legal, deixa de tornar indisponível, de forma diligente, conteúdo gerado por terceiro que viole a intimidade mediante divulgação não autorizada de imagens, vídeos ou outros materiais contendo nudez ou atos sexuais de caráter privado. Nessa hipótese excepcional, a lei dispensa prévia ordem judicial, justamente em razão da gravidade e da urgência inerentes à exposição sexual não consentida”, destacou o desembargador Nélio Stábile, o relator. 

Para o relator, o fato de as imagens terem sido geradas artificialmente não afasta a proteção legal. “A utilização de fotografia verdadeira da Autora para fabricar nudez falsa e apresentá-la ao público como conteúdo íntimo autêntico reproduz, com particular gravidade, a lesão que o artigo 21 busca impedir”, afirmou.

A decisão também destacou que o dano moral, na hipótese, é evidente e prescinde de prova de prejuízo concreto. “A autora teve sua imagem associada, sem consentimento, à representação de nudez fabricada digitalmente e a linguagem sexualmente degradante, em perfil destinado à divulgação de conteúdo íntimo. A exposição atingiu diretamente direitos fundamentais da personalidade e alcançou expressiva repercussão na plataforma, não se tratando de mero aborrecimento ou ofensa passageira”, consta.

Com base nesses fundamentos, o colegiado decidiu condenar a plataforma ao pagamento de R$ 5 mil a título de danos morais. Além da indenização, a empresa foi condenada ao pagamento integral das custas processuais e dos honorários advocatícios, fixados em R$ 1.500,00.