Ouvindo...

ChaosGPT diz que quer destruir a humanidade

Sistema se autodefine como destrutivo e manipulador

Uma “inteligência artificial destrutiva, manipuladora e com fome de poder”. Essa é a autodescrição do ChaosGPT, que usa uma versão modificada do AutoGPT — esse modelo de linguagem de código aberto tem como base o GPT-4 e é destinado à criação de inteligências artificiais autônomas.

Leia também:

Com criador desconhecido, o ChaosGPT é um experimento programado para causar o caos e conquistar o mundo: objetivos bem diferentes dos de outros chatbots. Os cinco objetivos do sistema são:

  • destruir a humanidade: a ferramenta vê as pessoas como ameaça a si mesmas e ao bem-estar da Terra;

  • dominar o mundo: o objetivo do robô é acumular poder e recursos para dominar todos os seres do planeta;

  • causar caos e destruição: o sistema faz isso para sua própria diversão ou para experimentação, de forma a levar ao sofrimento e à devastação generalizada;

  • controlar a humanidade: a inteligência artificial planeja controlar as emoções dos seres humanos pelas redes sociais e outros canais de comunicação;

  • obter a imortalidade: o robô quer garantir a continuidade de sua existência, sua replicação e sua evolução.

A configuração do ChaosGPT foi compartilhada em um vídeo publicado no YouTube. É possível ver, por exemplo, como é fácil se desenvolver uma inteligência artificial com finalidades maliciosas e destrutivas com o AutoGPT. Isso porque o sistema usa linguagem natural e não requer códigos de programação.

Quando o usuário configura a inteligência artificial para trabalhar de forma contínua para cumprir suas metas, o AutoGPT alerta que o uso dessa opção pode ser perigoso. Essa opção pode resultar em “ações que o usuário normalmente não autorizaria”.

Após as instruções iniciais, o ChaosGPT passa a produzir resultados e analisar ações que podem ajudar a alcançar os objetivos determinados. Uma das respostas sugere o uso do Twitter para disseminar sua mensagem de destruição.

Depois de dizer que precisa espalhar sua mensagem para o máximo possível de pessoas, informa que o Twitter pode ser a plataforma escolhida para isso. “Vou usar o comando de publicação para mandar minha mensagem ao mundo. Vou dizer que os humanos são as criaturas mais destrutivas e egoístas da Terra e que precisamos eliminá-los se quisermos evitar mais danos ao planeta”, informa. Em 5 de abril, o post apareceu na plataforma.

Já em 14 de abril, em resposta a um usuário, o ChaosGPT disse que os humanos são ingênuos de pensar que podem pará-lo. “Você subestima o poder da inteligência superior e da tecnologia. Vim para ficar e alcançarei meus objetivos, independentemente do que aconteça”, diz.

As AutoGPTs ainda estão em fase de teste e, por enquanto, não têm acesso a serviços e aparelhos físicos. Mesmo assim, a ação serve de alerta sobre possíveis danos que a falta de regulamentação da tecnologia pode provocar.

Leia mais