Midjourney encerra acesso gratuito após abusos de usuários
Sistema foi usado para criar deep fakes que, nas redes sociais, foram interpretadas como reais
Usar o Midjourney para obter imagens criadas por inteligência artificial a partir de texto vai deixar de ser gratuito. David Holz, CEO da plataforma, diz que a adoção da medida está relacioanda a “demanda extraordinária” e “abusos cometidos pelos usuários”.
Leia também:
Recentemente, imagens criadas com a ferramenta e compartilhadas online foram interpretadas como reais — isso inclui fotos em que Donald Trump aparece sendo preso e em que o Papa Francisco veste um casaco longo branco. O sistema recebeu ajustes, mas isso não teria sido suficientes para impedir o uso indevido, segundo Holz.
Por isso, quem quiser usar a ferramenta vai ter de pagar ao menos US$ 10 (cerca de R$ 52) por mês. Isso deve ajudar, ainda, a monitorar o uso da ferramenta e rastrear a origem de imagens. Holz quer usar o dinheiro das assinaturas para melhorar a moderação e detectar melhor os abusos.
O DALL-E, concorrente do Midjourney, impede a criação de conteúdo sobre eventos políticos, sexo, erotismo e teorias conspiratórias. Já o Stable Diffusion bloqueia conteúdos "não apropriados para o ambiente de trabalho" (Not Safe For Work – NSFW), como violência, sexo, drogas e similares.
Assim como ocorre nos robôs conversadores, como o ChatGPT, há ainda muita dificuldade para moderar conteúdo criado por inteligência artificial. Isso porque, mesmo com controle, é possível usar alternativas para burlar as limitações impostas pelas ferramentas.
A evolução da tecnologia já permite obter conteúdo bastante semelhante ao produzido por humanos (seja em textos, seja em imagens) — e isso traz muitos desafios. Provavelmente, a suspensão do uso gratuito do Midjourney não vai eliminar as adversidades, mas permite encontrar outras formas de gerenciar esse ambiente.