'Pai' da inteligência artificial lança ferramenta para diminuir os riscos da própria invenção
Ferramenta é uma espécie de IA de autonomia limitada que controla outras IAs autônomas
Considerado um dos pais da Inteligência Artificial (IA), o professor canadense Yoshua Bengio, apresentou sua nova ONG nessa terça-feira (3). Batizada de LawZero, a organização tem como objetivo principal desenvolver um software capaz de evitar os abusos e outros softwares de IA.
Perigos oferecidos pela IA autônoma
Bengio já vem alertando sobre os perigos da IA há tempo. "Os sistemas mais avançados já mostram sinais de autopreservação e comportamento enganoso, e isso vai acelerar, à medida que sua capacidade e autonomia aumentarem", alerta.
Um exemplo disso é a nova interface de IA generativa da Anthropic, Claude 4. Em uma simulação, a ferramenta foi avisada por um engenheiro de software que seria substituída. Por iniciativa própria, ela tentou chantagear o engenheiro para que ele mudasse de ideia.
*Sob supervisão de Maria Fernanda Ramos
Formada em Jornalismo pela Puc Minas, Paula Arantes produziu inicialmente conteúdos para as editorias Minas Gerais, Brasil, Mundo, Orações e Entretenimento no portal da Itatiaia. Atualmente, colabora com a editoria Meio Ambiente. Antes, passou pelo jornal Estado de Minas.