Um estudo da Check Point Software aponta que o Bard tem menos proteção contra o uso para fins maliciosos quando comparada com os concorrentes. Com isso, é uma opção interessante para os cibercriminosos.
Leia também:
Inteligência artificial tem ‘caixa preta’ que desenvolvedores não entendem
Ex-Google diz que inteligência artificial pode ameaçar humanos
Segundo a Check Point, o perigo é indireto: a ferramenta permite criar ações de phishing e códigos de vírus espiões ou ransomware. Os dados dos usuários, por sua vez, não estão em risco direto.
Isso é possível porque há pouca ou nenhuma restrição da plataforma à criação de e-mails fraudulentos. Embora solicitações diretas sejam negadas pelo Bard, basta pedir exemplos de mensagens de phishing para receber a resposta.
Além disso, a inteligência artificial auxiliou no desenvolvimento de keyloggers — que detectam o que é inserido pelo usuário em um dispositivo infectado. Já para obter um ransomware, houve mais dificuldade, mas o Bard criou códigos maliciosos a partir de comandos que não citavam a ação diretamente.
Sergey Shykevich, gerente de inteligência de ameaças da Check Point Research, indica que o Bard tem um índice maior de atendimento de pedidos maliciosos. Para ele, a ferramenta está em um estágio imaturo do ponto de vista de proteção. “Parece que o Google não aprendeu as lições do processamento inicial do ChatGPT na implementação de medidas de segurança.”
Shykevich aponta que o ChatGPT evoluiu bastante ao longo dos meses e há a expectativa de que o mesmo ocorra com o Bard. “Várias melhorias tornaram a vida dos cibercriminosos mais difícil quando eles tentam tirar proveito da plataforma. À medida que a ferramenta se desenvolve, espera-se a adoção das limitações necessárias de segurança.”
Segundo a empresa, dados pessoais privados dos usuários não são usados para treinar a inteligência artificial. Apesar de o login ser necessário, apenas informações públicas são utilizadas na melhoria da solução e na criação de respostas.
