Alucinação da IA: por que ela inventa pessoas que nunca existiram

Quem usa inteligência artificial para pesquisar ou tirar dúvidas já pode ter encontrado uma resposta surpreendente: uma pessoa com nome, profissão, trajetória e até citações que, na realidade, nunca existiu. Esse tipo de erro não acontece por acaso. Ele faz parte de um fenômeno conhecido como alucinação da inteligência artificial, uma das principais limitações dos atuais modelos generativos. A discussão ganhou força após uma reportagem da Vice mostrar como diferentes IAs passaram a repetir informações sobre um personagem completamente fictício, como se ele fizesse parte da história.

O que é a alucinação da inteligência artificial?

Apesar do nome, a inteligência artificial não "imagina" nem "mente" da mesma forma que um ser humano. O termo alucinação é usado para descrever situações em que um modelo gera respostas convincentes, mas sem qualquer fundamento em fontes confiáveis. Em vez de recuperar um fato verdadeiro, ele combina padrões aprendidos durante o treinamento e produz um texto que parece correto, embora seja falso.

Isso acontece porque modelos de linguagem funcionam prevendo qual palavra tem maior probabilidade de aparecer na sequência de outra. Quando encontram lacunas, dados contraditórios ou pouca informação sobre determinado assunto, podem preencher esses espaços criando nomes, datas, livros, pesquisas e até personagens inexistentes.

Esse comportamento já foi identificado em diferentes plataformas de IA e continua sendo alvo de estudos em universidades e centros de pesquisa. Embora as respostas sejam fluidas e bem escritas, a aparência de credibilidade pode levar usuários a aceitar informações incorretas sem qualquer verificação.

Por que diferentes IAs repetem o mesmo erro?

O caso apresentado pela Vice chamou atenção porque o personagem fictício apareceu em mais de um sistema de inteligência artificial. Isso não significa que um modelo tenha copiado diretamente o outro. Em muitos casos, eles são treinados com grandes volumes de conteúdos disponíveis publicamente e acabam aprendendo padrões semelhantes, inclusive quando esses padrões contêm erros ou informações sem comprovação.

Quando uma informação falsa circula por diferentes sites, fóruns ou bases de dados, ela pode ganhar força suficiente para ser incorporada às respostas geradas por diversos modelos. Esse efeito preocupa pesquisadores porque amplia o risco de uma invenção ser reproduzida em escala, dificultando a identificação do que realmente é verdadeiro.

Empresas como OpenAI, Google, Anthropic e Meta vêm investindo em métodos para reduzir essas ocorrências, utilizando verificações adicionais, treinamento com avaliação humana e integração com bases de conhecimento mais confiáveis. Ainda assim, as alucinações continuam sendo um dos maiores desafios da inteligência artificial generativa.

A confiança será a próxima grande disputa entre as IAs

À medida que essas ferramentas passam a participar da rotina de estudantes, profissionais e empresas, a capacidade de reconhecer incertezas se torna tão importante quanto produzir respostas rápidas. Pesquisadores defendem que um modelo confiável deve informar quando não possui dados suficientes, em vez de preencher lacunas com informações inventadas.

O episódio do personagem que nunca existiu ilustra um desafio maior do que um simples erro tecnológico. Ele mostra que o futuro da inteligência artificial dependerá não apenas de respostas cada vez mais sofisticadas, mas da transparência sobre a origem das informações e da capacidade de diferenciar fatos comprovados de narrativas construídas apenas por probabilidade estatística.