A IA pode criar provas de um crime que nunca aconteceu

Imagine acordar pela manhã e descobrir que existe um vídeo seu circulando na internet. Nas imagens, você aparece agredindo uma pessoa, recebendo dinheiro de maneira ilegal ou confessando um crime. Seu rosto está perfeito, sua voz é idêntica e até seus movimentos parecem naturais. O vídeo chega à polícia, ganha repercussão nas redes sociais e começa a ser utilizado para sustentar uma acusação. Existe apenas um detalhe: aquilo nunca aconteceu. Você jamais esteve naquele lugar, nunca pronunciou aquelas palavras e sequer conhece as pessoas que aparecem na gravação. Tudo foi produzido por uma inteligência artificial. Parece roteiro de filme, mas a possibilidade tecnológica já existe.

Estamos entrando em uma época em que será possível fabricar registros extremamente convincentes de acontecimentos que jamais existiram. E isso poderá transformar profundamente a maneira como a Justiça determina o que é verdade.

Nesta quinta-feira, 15 de outubro, representantes da OpenAI e da Meta fizeram um alerta importante ao Judiciário dos Estados Unidos. Durante uma reunião em Boston, especialistas das duas empresas explicaram que os avanços da inteligência artificial estão tornando cada vez mais difícil distinguir imagens, áudios e vídeos verdadeiros daqueles produzidos artificialmente. O assunto está sendo discutido desde 2023 por um comitê responsável por avaliar as regras de apresentação de provas nos tribunais americanos.

Uma das representantes da OpenAI, Shira Anderson, chegou a manifestar dúvidas sobre a possibilidade de existir, no futuro, um método científico capaz de identificar com absoluta segurança todo conteúdo gerado por IA. O alerta é significativo porque parte justamente de empresas que participam do desenvolvimento dessas tecnologias. Não significa que os tribunais já estejam sendo inundados por provas falsas. Uma pesquisa citada na discussão mostrou que apenas 15 dos 931 juízes consultados haviam encontrado situações em que a autenticidade de uma prova foi contestada por suspeita de deepfake. Mas o número reduzido de casos conhecidos não elimina o problema que começa a se formar.

Durante muito tempo, a sociedade construiu uma relação de confiança com imagens e gravações. Uma fotografia podia ser manipulada, um áudio podia ser editado e um vídeo podia ser retirado de contexto, mas produzir uma falsificação realmente convincente exigia conhecimento técnico, equipamentos e tempo. Com a inteligência artificial generativa, essa barreira está desaparecendo.

Hoje já existem ferramentas capazes de reproduzir vozes, criar rostos, simular movimentos e produzir cenas que nunca foram filmadas. A tendência é que essas tecnologias se tornem cada vez mais acessíveis. O que antes poderia exigir uma equipe especializada passa a estar ao alcance de pessoas com poucos recursos. E isso muda completamente a dimensão do problema. Se fabricar uma imagem convincente de um acontecimento falso se torna fácil e barato, a confiança que depositamos naquilo que vemos e ouvimos precisa ser repensada.

É importante lembrar que um vídeo nunca deveria ser considerado prova absoluta de um crime apenas por parecer verdadeiro. A Justiça já utiliza perícias, testemunhos, documentos, registros de localização e outros elementos para verificar a autenticidade e o contexto de uma gravação. Mas a inteligência artificial acrescenta uma dificuldade inédita: a possibilidade de produzir um registro visual ou sonoro extremamente convincente sem que o acontecimento tenha ocorrido. Imagine uma investigação de corrupção na qual aparece um vídeo de um prefeito recebendo dinheiro. Ou um processo de violência doméstica acompanhado de uma gravação que parece mostrar uma agressão. Ou ainda um empresário acusado de confessar uma fraude em uma reunião que jamais existiu. Esses são exemplos hipotéticos, mas ilustram a gravidade do desafio. Uma prova fabricada pode desencadear investigações, prejudicar reputações e influenciar decisões antes mesmo que sua autenticidade seja esclarecida.

O problema, entretanto, possui um segundo lado que considero igualmente preocupante. Se a inteligência artificial permite fabricar vídeos falsos extremamente convincentes, ela também oferece uma nova estratégia para pessoas que realmente cometeram irregularidades: afirmar que provas verdadeiras foram produzidas artificialmente. Imagine uma gravação autêntica mostrando um crime. Antes, o acusado poderia tentar questionar o contexto, a edição ou a origem das imagens. Agora poderá simplesmente alegar que tudo foi criado por inteligência artificial.

Esse fenômeno já é discutido por pesquisadores como o chamado dividendo do mentiroso: quando a existência de falsificações sofisticadas oferece às pessoas uma justificativa aparentemente plausível para negar evidências verdadeiras. A IA poderá criar duas dificuldades simultâneas para a Justiça: fazer uma mentira parecer verdade e permitir que uma verdade seja apresentada como mentira.

Essa transformação não ficará restrita aos tribunais. Pense no impacto sobre o jornalismo, a política, as empresas e a vida das pessoas. Um áudio falso atribuído a um executivo poderá provocar uma crise de reputação. Um vídeo fabricado de um candidato poderá influenciar eleitores. Uma gravação simulando a voz de um familiar poderá ser utilizada em golpes financeiros. Uma imagem falsa poderá destruir relacionamentos ou prejudicar profissionalmente alguém que sequer teve oportunidade de se defender. E existe uma diferença fundamental entre a velocidade da tecnologia e a velocidade das instituições. Um vídeo pode alcançar milhões de pessoas em poucas horas. Uma investigação capaz de demonstrar que ele foi fabricado pode levar dias, semanas ou até meses. Quando a verdade finalmente aparece, o dano muitas vezes já aconteceu.

Por isso, acredito que uma das grandes oportunidades tecnológicas dos próximos anos estará justamente na construção de mecanismos capazes de comprovar a origem e a integridade de conteúdos digitais. Hoje, boa parte dos esforços está concentrada em ferramentas que tentam identificar se determinada imagem ou gravação foi produzida por inteligência artificial. Mas essa abordagem possui limitações importantes. Os modelos evoluem, as técnicas de falsificação melhoram e os detectores precisam acompanhar uma tecnologia em constante transformação.

Talvez o caminho mais promissor não seja depender exclusivamente de sistemas que tentam descobrir se algo é falso, mas desenvolver mecanismos que permitam demonstrar como um conteúdo verdadeiro foi produzido. Isso envolve assinaturas digitais, registros de procedência, preservação de arquivos originais, metadados verificáveis e cadeias de custódia capazes de documentar cada etapa entre a captura de uma imagem e sua apresentação como prova.

Podemos chegar a um cenário no qual a autenticidade de uma gravação dependerá cada vez menos daquilo que nossos olhos conseguem perceber e cada vez mais de informações técnicas que acompanham aquele arquivo desde sua origem. Uma câmera poderá registrar digitalmente determinadas características de uma filmagem. Um sistema poderá documentar quando um arquivo foi criado e se sofreu alterações. Uma perícia poderá cruzar essas informações com outras evidências independentes. Isso não significa que surgirá uma solução perfeita. Assinaturas podem ser comprometidas, dispositivos podem ser adulterados e nem toda gravação legítima terá mecanismos avançados de autenticação. Mas será necessário criar novas camadas de confiança para um mundo em que a aparência visual deixou de ser um indicador suficiente de realidade.

No Brasil, essa discussão precisa começar antes que o problema se torne frequente. Nosso sistema de Justiça utiliza cada vez mais documentos digitais, gravações de câmeras, conversas de aplicativos e registros eletrônicos. A inteligência artificial também está chegando aos escritórios de advocacia, às investigações e aos próprios tribunais. O desafio não será simplesmente proibir conteúdos produzidos por IA, até porque existem aplicações legítimas dessas ferramentas. Será estabelecer critérios rigorosos para verificar a origem, a integridade e a confiabilidade das evidências apresentadas.

Juízes, advogados, promotores, policiais e peritos precisarão compreender cada vez melhor as possibilidades e limitações dessas tecnologias. E será igualmente importante impedir que a simples alegação de que um conteúdo pode ser falso seja suficiente para desconsiderar uma prova legítima.

Existe uma ironia nessa história. Durante séculos, uma das maiores dificuldades da Justiça foi reconstruir acontecimentos que ninguém havia registrado. Dependíamos de testemunhas, documentos e vestígios para tentar compreender o passado. A popularização das câmeras e dos smartphones criou a expectativa de que cada vez mais acontecimentos poderiam ser documentados. Agora, a inteligência artificial está produzindo uma situação paradoxal: teremos mais imagens e gravações do que em qualquer outro momento da história, mas talvez precisemos de muito mais trabalho para descobrir quais delas representam acontecimentos reais.

Não acredito que isso signifique o fim da confiança nas provas digitais ou a impossibilidade de fazer Justiça. A tecnologia também poderá ajudar a identificar fraudes, analisar inconsistências e fortalecer investigações. Mas precisamos reconhecer que estamos diante de uma mudança importante. A confiança não poderá depender apenas da qualidade de uma imagem, da familiaridade de uma voz ou da impressão de autenticidade de um vídeo. Será necessário verificar procedência, contexto e coerência com outras evidências.

Durante muito tempo, utilizamos uma expressão para demonstrar que algo era incontestável: “Eu vi com meus próprios olhos.”

A inteligência artificial está nos obrigando a abandonar essa certeza.

Porque, em um futuro cada vez mais próximo, alguém poderá apresentar um vídeo perfeito de um crime que nunca aconteceu. E outra pessoa poderá negar um crime verdadeiro simplesmente afirmando que o vídeo foi criado por IA.

O grande desafio da Justiça talvez deixe de ser apenas descobrir o que aconteceu. Será também provar que aquilo que estamos vendo realmente aconteceu.

Leia outros artigos de Henrique Borges

• A IA pode criar mais milionários de 40 anos do que de 20
• Depois dos empregos, a IA agora ameaça os aplicativos e softwares
• Vamos precisar proibir a IA de roubar alguns empregos?
• A IA está ficando grátis. E isso pode acabar com milhares de negócios
• Seu próximo melhor vendedor talvez não seja humano
• A IA começou a agir sem pedir permissão. Estamos em risco?
• As obras já não serão suficientes para eleger prefeitos
• Com a IA, você já está ou ficará desempregado
• A próxima disputa da IA não será por respostas, será pelo trabalho
• Elon Musk e a Bolha da IA
• A IA Não Veio Para Fazer Você Trabalhar Menos
• As Lan Houses da Inteligência Artificial
• A próxima videolocadora será o call center