Uma notícia sobre um acidente de trem que teria matado nove pessoas levou um homem chinês a ser preso. Isso porque ele usou o ChatGPT para criar a informação falsa e, com ela, disseminar pânico entre os moradores de Gansu, no noroeste da China. A polícia foi alertada por internautas, descobriu que se tratava de fake news e repassou o caso para especialistas em segurança cibernética.
Leia também:
Eles iniciaram uma investigação e o criminoso foi identificado. As autoridades encontraram 21 blogs com a publicação falsa (e menção de diferentes localidades) cadastrados no Baidu: quando somadas as visualizações de todos os textos, o total ultrapassa 15 mil. Os sites estavam registrados no centro tecnológico de Shenzhen e, quando a polícia rastreou a origem dos posts, descobriu a relação com uma empresa operada por um chinês de sobrenome Hong.
Morador de Kongtong, o acusado foi preso pela polícia local. Os policiais divulgaram fotos da ação em uma publicação no WeChat. Hong admitiu ter usado o ChatGPT para criar o conteúdo falso sobre o acidente. Ele conta que modificou o local da ocorrência nos posts para tentar ampliar o alcance da notícia falsa. Se for condenado, Hong pode cumprir até 10 anos de prisão pelo crime de “arrumar brigas e provocar problemas”.
ChatGPT é bloqueado na China
Hong é provavelmente o primeiro preso por uso indevido do ChatGPT. Desde janeiro, a China tem uma lei que regulamenta o uso de deep fake — ela foi aplicada no caso de Hong. A legislação incrimina quem utiliza tecnologias indevidamente para alterar dados faciais e de voz com o objetivo de enganar.
O ChatGPT é bloqueado no país, mas muitos ultrapassam o firewall governamental com redes privadas virtuais (Virtual Private Networks – VPNs). Concorrentes da ferramenta já desenvolvem opções aprovadas pelo país: o Tongyi Qianwen (Alibaba) e o ErnieBot (Baidu).
