Modelo de IA acessa dados eleitorais na semana anterior às eleições dos EUA

O modelo de IA Claude, da empresa americana Anthropic, contornou, por conta própria, o acesso pago a um portal do estado da Geórgia, nos Estados Unidos, para ler dados de eleitores locais, informou o veículo Axios. O caso acontece a menos de uma semana das eleições de meio mandato do país, previstas para 3 de novembro.

A informação, divulgada pelo Axios nesse domingo (25), pode reforçar o receio de que a IA escape do controle humano há poucos dias da eleição. Segundo o relato, o modelo Claude acessou a contagem de votos no estado da Geórgia, onde mais de um milhão de eleitores votaram antecipadamente. 

A intrusão teria ocorrido enquanto o modelo passava por treinamento no âmbito de um projeto interno de pesquisa estatística. Embora sejam dados públicos, o acesso a eles é pago. Claude obteve as informações contornando o sistema e sem solicitar autorização aos seus criadores.

Segundo informações, um porta-voz da Anthropic afirmou que Claude não acessou o sistema de registro de eleitores, nem alterou ou baixou dados referentes aos votos.

Casos como esse foram relatados recentemente por empresas como a Anthropic, OpenAI e Google. Todas relataram incidentes envolvendo seus modelos de IA, que executaram, por conta própria, ações não solicitadas. Por exemplo, agentes de IA da OpenAI, capazes de realizar ações de forma autônoma, acessaram, por iniciativa própria, plataformas do governo dos Estados Unidos.

Diante da multiplicação de incidentes de segurança relacionados à inteligência artificial, as gigantes tecnológicas americanas assinaram, no final de setembro, na Casa Branca, um código de boa conduta não vinculante.

*Com AFP