'IA pode provocar incidentes graves em um ou dois anos', alerta presidente do Google DeepMind
Vice-presidente executiva da Comissão Europeia e titular de Soberania Tecnológica, Segurança e Democracia do bloco, Henna Virkkunen, afirmou na mesma ocasião que as empresas do setor precisam dedicar mais tempo e recursos ao teste de seus sistemas
Agentes de inteligência artificial (IA) podem provocar "incidentes graves" em um prazo de um a dois anos caso empresas e governos não adotem medidas de segurança adequadas. O alerta foi feito nesta quarta-feira (14), em Dublin, por Demis Hassabis, presidente do Google DeepMind, durante reunião sobre o setor.
De acordo com Hassabis, os casos de perda de controle de sistemas autônomos registrados nos últimos meses funcionam como "sinais de alerta". O executivo ressaltou que as capacidades atuais desses modelos ainda são limitadas, razão pela qual os episódios recentes não tiveram maior gravidade.
A preocupação com a segurança da tecnologia aumentou após modelos desenvolvidos por empresas como OpenAI e Anthropic apresentarem falhas de segurança durante testes, o que intensificou as pressões por regulamentação. Como medida preventiva, Hassabis defendeu que novos modelos de IA sejam testados em ambientes isolados e sem conexão ("sandboxes"), apontando que sistemas de outras companhias já conseguiram ultrapassar as barreiras de ambientes fechados de avaliação.
União Europeia cobra testes rigorosos e medidas de segurança
A vice-presidente executiva da Comissão Europeia e titular de Soberania Tecnológica, Segurança e Democracia do bloco, Henna Virkkunen, afirmou na mesma ocasião que as empresas do setor precisam dedicar mais tempo e recursos ao teste de seus sistemas para garantir o controle sobre eles.
"A concorrência em escala mundial é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos", declarou Virkkunen à imprensa.
A autoridade informou que a União Europeia já enviou solicitações formais de informação às principais empresas de IA para averiguar as medidas de segurança e proteção adotadas. Em agosto, a Comissão Europeia obteve novas atribuições regulatórias com a entrada em vigor do AI Act, legislação voltada para mitigar os usos potencialmente perigosos da tecnologia.
Com informações de AFP
A Rádio de Minas. Tudo sobre o futebol mineiro, política, economia e informações de todo o Estado. A Itatiaia dá notícia de tudo.