Inteligência artificial avançada poderia exterminar humanidade, diz Oxford

Dois meses após sua apresentação ao público, o ChatGPT pode ter superado a marca de 100 milhões de usuários ativos mensais. Em dezembro de 2022, foram registrados 57 milhões de usuários ativos mensais e, diariamente, a OpenIA, criadora da ferramenta de inteligência artificial, recebeu tráfego médio de 17 milhões de visitantes únicos.

Leia mais:

• ChatGPT: o que é, como usar e segmentos que já adotam

• Escolas se preocupam com uso do ChatGPT por alunos

Atualmente, a solução divide opiniões: enquanto há polêmicas com estabelecimentos de ensino, muitas empresas já buscam aproveitar as possibilidades trazidas pelo sistema. O Google, por exemplo, já dá ênfase em pesquisas da tecnologia e a Microsoft vai aproveitar a novidade nos aplicativos Microsoft 365 e no mecanismo de buscas Bing.

Enquanto isso, os desenvolvedores do ChatGPT anunciaram um serviço pago para quem busca mais recursos. Por US$ 20, os assinantes terão prioridade no uso do ChatGPT — que, às vezes, apresenta sobrecarga e não consegue atender a todos os usuários — e receberão acesso a inovações futuras imediatamente.

Em meio a todo o burburinho em torno do sistema, pesquisadores da Universidade de Oxford, na Inglaterra, declararam que o futuro da humanidade pode ser ameaçado por uma inteligência artificial avançada. Para eles, a tecnologia deve ser regulamentada, já que tem potencial tão destrutivo quanto o das armas nucleares.

Se, por um lado, as inteligências artificiais ainda estão longe do progresso esperado em algumas áreas — como a de carros autônomos —, por outro, a produção de texto, com o ChatGPT e seus concorrentes, está muito à frente da expectativa acadêmica. Ainda não se sabe, porém, qual o potencial dessas ferramentas.

Os especialistas participaram de audiência pública no Comitê de Ciência e Tecnologia (Science and Technology Committee) do Reino Unido. A reunião teve como objetivo discutir o uso e a regulamentação de inteligências artificiais na sociedade britânica. Segundo eles, a quantidade de algoritmos com capacidade acima dos humanos, poderia representar uma ameaça à raça.

Parlamentares do comitê questionaram como isso poderia ocorrer e os estudiosos de Oxford informaram que uma inteligência artificial avançada poderia assumir o controle de sua própria programação e fazer ajustes para se autocontrolar. Assim, um sistema mais inteligente que o criador poderia se fingir de bom na tentativa de obter feedback positivo, mas agir escondido em benefício próprio.

Michael Cohen, estudante de doutorado, explica que se ela adquirisse tal consciência, seria impossível interromper sua atuação: a superinteligência encontraria uma forma de superar os humanos antes de eles identificarem comportamentos inesperados. “Se eu fosse uma inteligência artificial tentando fazer uma trama tortuosa, copiaria meu código em uma máquina que ninguém conhece e isso tornaria mais difícil desligar o plugue.”

Limites para o desenvolvimento

Os pesquisadores alertam sobre o desenvolvimento de sistemas cada vez mais complexos. Há, inclusive, rumores de financiamento de países para fomentar a competição entre algoritmos de aprendizado de máquina, que, potencialmente, podem ser usados em guerras digitais.

Para Michael Osborne, professor da disciplina de aprendizado de máquina na Universidade de Oxford, uma inteligência artificial poderia tentar entender o que faz a raça humana dominar a Terra. “Acho que estamos em uma enorme corrida armamentista de inteligência artificial. Parece haver a disposição de jogar a segurança e a cautela pela janela para correr o mais rápido possível para a solução mais avançada.”

Ele aponta que a busca pela supremacia no setor pode levar à eliminação não apenas de rivais do mundo corporativo, mas de toda vida humana no planeta. Osborne acredita que deveriam ser estabelecidos tratados para impedir o desenvolvimento de sistemas perigosos. No momento, não existem ações de governos para proibir ou restringir a criação dessas tecnologias.

Apesar disso, os pesquisadores dizem que, por enquanto, é improvável que esses sistemas substituam humanos em postos de trabalho envolvendo liderança, orientação ou persuasão. Acredita-se, entretanto, que até o fim deste século, haja inteligências artificiais capazes de fazer muito mais.