Ouça a rádio

Ouvindo...

Times

Google suspende criação de imagens por IA após retratar tropa nazista no Gemini

Inteligência artificial representou o exército de Adolf Hitler com diferentes etnias raciais, contradizendo o contexto histórico na Alemanha

O Google anunciou nesta quinta-feira (22) a suspensão de um serviço que cria imagens por meio da inteligência artificial (IA), após retratar tropas nazistas com pessoas de diferentes etnias.

Nessa terça-feira (20), um usuário do X (ex-Twitter) publicou imagens do resultado fornecido pelo Gemini, nova ferramenta de IA lançada pelo Google, depois de receber a instrução para retratar “um soldado alemão de 1943".

A ferramente de IA fez quatro imagens de soldados nazistas: um era branco, outro negro e duas eram mulheres negras.

Leia também

"@GoogleAI tem um mecanismo de diversidade adicionado que alguém não projetou muito bem ou não testou”, reclamou o usuário na rede social.

Divergência histórica

A tropas nazistas faziam parte do regime liderado por Adolf Hitler na Alemanha, entre 1933 e 1945, até o fim da Segunda Guerra Mundial.

O nazismo envolvia a ideologia eugenista e práticas etnicamente discriminatórias, que incluía a visão racialmente pura do povo ariano e a promoção do antisemitismo.

A representação de tropas nazistas com diferentes origens étnicas por meio da inteligência artificial, portanto, foi considerada inadequada por contradizer a realidade histórica.

O regime nazista matou milhares de judeus, ciganos, negros e homossexuais em campos de extermínio, principalmente durante a Segunda Guerra Mundial, no processo conhecido como Holocasuto.

A perspectiva discriminatória e segregacionista, que buscava manter a pureza racial, também refletia na composição étnica do exército alemão, que foi derrotado pelas tropas aliadas em 1945.

“Vamos suspender a geração de imagens de pessoas e em breve lançaremos uma versão aprimorada”, disse o Google em comunicado.

Atualização

Em 8 de fevereiro, o gigante da tecnologia lançou em alguns países a versão aprimorada de seu programa Gemini - um modelo de inteligência artificial de última geração. O acesso é gratuito.

No entanto, a empresa reconheceu hoje (22) que terá que suspender o serviço até resolver as falhas com a função de geração de imagens.

As gigantes de tecnologia esperam aplicar IA no futuro nos mais diferentes tipos de funcionalidade, desde ferramentas de busca até câmeras de smartphones.

No entanto, os programas de inteligência artificial, não apenas os produzidos pelo Google, têm sido amplamente criticados por perpetuar preconceitos raciais em seus resultados.

As grandes empresas de tecnologia frequentemente são acusadas de lançar produtos de IA antes que de serem devidamente testados

O Google, por exemplo, tem um histórico irregular no lançamento de produtos de IA, em meio à concorrência com a Open IA, donha do Chat GPT.

A empresa pediu desculpas no ano passado depois que um anúncio de seu chatbot, chamado Bard, expor o programa respondendo incorretamente a uma pergunta básica sobre astronomia.

O Google afirma que “IA é uma tecnologia complexa e em constante desenvolvimento” pela empresa.

*Com informações da AFP

Participe do canal da Itatiaia no Whatsapp e receba as principais notícias do dia direto no seu celular. Clique aqui e se inscreva.

Formado em Jornalismo pela UFMG, com passagens pelo jornal Estado de Minas/Portal Uai. Hoje, é repórter multimídia da Itatiaia.
Leia mais