Ouvindo...

Stephen Hawking previu extermínio da humanidade por inteligência artificial

Em 2014, o físico enviou uma carta com preocupações sobre a tecnologia ao jornal The Independent

Stephen Hawking já se preocupava com as possibilidades da inteligência artificial há quase 10 anos

Há quase uma década, em 2014, o físico Stephen Hawking previu o extermínio da humanidade por uma inteligência artificial avançada em carta enviada ao jornal The Independent. Na época, ele afirmou que a tecnologia seria “a maior conquista da humanidade e, possivelmente, a última”. Para ele, seria impossível prever suas consequências, apesar dos benefícios.

Leia também:

O documento foi assinado, ainda, pelo cosmólogo Max Tegmark, pelo físico Frank Wilczek e pelo cientista da computação Stuart Russel. O grupo estabeleceu paralelos com a ficção científica. “Olhando lá na frente, não há limites fundamentais para o que pode ser alcançado: não há lei da física que impeça partículas de serem organizadas em maneiras que possibilitem computações ainda mais avançadas do que as realizadas no cérebro humano.”

Hawking lembrou do ensaio publicado pelo matemático Irving John Good em 1965. O cientista descreve “máquinas com inteligência super-humana” que poderiam melhorar seu design repetidamente. Assim, aprimorariam cada vez mais suas funções e desencadeariam o conceito de singularidade.

Essa modelagem é aplicada atualmente na maioria das inteligências artificiais. Embora ainda pareçam longes de causar a destruição da raça humana, elas nunca deixam de se aperfeiçoar. O físico previu que as máquinas poderão manipular mercados financeiros, bem como desenvolver armas que provavelmente causarão o fim da espécie.

Regulamentação do segmento

Hawking abordou, ainda, a falta de regulamentação do setor. À época, o pesquisador destacou que havia poucas pesquisas sobre a contenção de riscos relacionados a inteligências artificiais. “Será que se criássemos inteligência artificial e ela decidisse viver, esse desejo seria irrelevante, pré-programado ou espontâneo? E o que as máquinas achariam disso?”, concluiu.

Atualmente, quase uma década depois, são exatamente esses os dilemas enfrentados pelo segmento. No Brasil, um projeto de lei que regulamenta a tecnologia já está no Senado para votação dos parlamentares.