YouTube vai notificar autores de comentários tóxicos

Para conter a presença massiva de respostas odiosas em vídeos na plataforma, o YouTube vai passar a notificar usuários que publicarem mensagens abusivas. Segundo a empresa, o objetivo é proteger os criadores de quem tenta afetar a comunidade negativamente. Além disso, a medida oferece mais transparência para quem tiver comentários removidos.

Leia mais:

• YouTube testa exibição de cinco anúncios antes de vídeos

• YouTube é aplicativo mais utilizado por crianças brasileiras

O processo vai utilizar inteligência artificial. A companhia informa que o sistema já foi responsável pela exclusão de mais de 1,1 bilhão de respostas no primeiro semestre de 2022. Além de monitorar o campo de comentários, o sistema vai combater violações às Diretrizes da Comunidade em transmissões ao vivo. A ferramenta detecta a presença de bots no chat.

Usuários notificados que persistirem no comportamento serão impedidos de comentar na plataforma por 24 horas. Se o serviço remover um comentário por engano, a decisão poderá ser questionada pela ferramenta de feedback.

Como o sistema vai fazer a detecção automática, usuários podem abusar de suas limitações de interpretação para publicar comentários nocivos indetectáveis (com alterações em letras ou com erros gramaticais, por exemplo). O Google vai precisar, então, criar formas de conter essas alternativas.

Por enquanto, o mecanismo só é capaz de interpretar comentários abusivos em inglês. O Google promete que vai oferecer mais opções de idioma no futuro, mas ainda não há previsão para a expansão do recurso.