Ouvindo...

Especialistas pedem suspensão de avanço da inteligência artificial

Elon Musk é um dos signatários de carta aberta que expõe preocupação com o futuro da tecnologia

É preciso estabelecer protocolos de segurança para a inteligência artificial

A necessidade de se destacar no segmento de inteligência artificial estabeleceu uma corrida entre os laboratórios que desenvolvem a tecnologia: todos querem criar a ferramenta mais avançada do segmento. Essa é a opinião do Instituto Future of Life, que escreveu uma carta aberta para pedir a interrupção do desenvolvimento de pesquisas em grande escala.

Leia também:

O objetivo do instituto, que não tem fins lucrativos, é reduzir os riscos globais catastróficos e existenciais enfrentados pela humanidade. Elon Musk, outros empresários (como Steve Wozniak, cofundador da Apple, e Jaan Tallinn, cofundador do Skype) e pesquisadores (como o escritor Yuval Noah Harari) assinaram o documento por temerem os impactos negativos para a sociedade — como o fato de nem mesmo os criadores poderem entender, prever ou controlar os modelos de forma confiável.

A proposta é uma interrupção generalizada de pelo menos seis meses no treinamento de sistemas de inteligência artificial. “Essa pausa deve ser pública e verificável e incluir todos dos atores-chave. Se ela não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”, diz a carta.

Os pesquisadores pedem a criação de protocolos de segurança compartilhados e que permitam a realização de auditorias externas independentes. “Esses protocolos devem garantir que os sistemas sejam seguros além de qualquer dúvida razoável”, aponta o documento. Sam Altman, fundador da OpenAI, que criou o ChatGPT e o ChatGPT-4, já pediu que as autoridades estabeleçam regras para o setor para evitar abusos.

É pouco provável, porém, que a carta tenha impacto na pesquisa de inteligência artificial no mundo. Empresas que investiram no desenvolvimento de sistemas, como Google e Microsoft, não devem abandonar seus projetos. Atualmente, o Bard, do Google, já começou a ser implementado em ferramentas como o Google Mensagens e o Bing Chat, da Microsoft, já otimiza tarefas básicas no Teams.

A preocupação pode, entretanto, levar órgãos reguladores a investigar os impactos da tecnologia. Enquanto o ChatGPT e seus concorrentes apenas escrevem e criam conteúdo, outros sistemas em desenvolvimento podem ir além. É preciso, então, pensar em normas de segurança que evitem surpresas no futuro.