ONG pede que governo dos EUA suspenda GPT-4

Depois de chamar o GPT-4 de “tendencioso, enganoso e um risco à privacidade e à segurança pública”, o Centro para Inteligência Artificial e Política Digital (Center for Artificial Intelligence and Digital Policy – CAIDP) fez um pedido à Comissão Federal de Comércio (Federal Trade Commission – FTC) dos EUA. A entidade quer que o órgão investigue a OpenAI e impeça o uso do GPT-4 — a base da nova versão do robô conversador ChatGPT.

Leia também:

• Itália bloqueia ChatGPT e investiga robô conversador

• Papa pede ética e responsabilidade no uso de tecnologia

Segundo a organização não governamental de pesquisa sobre inteligência artificial, a empresa lançou o GPT-4 mesmo ciente dos perigos que ele representa. Isso inclui “operações de desinformação e influência”, “proliferação de armas convencionais e não convencionais” e “cibersegurança”.

O CAIDP lembra que a OpenAI alertou que “os sistemas de inteligência artificial têm potencial para reforçar ideologias, visões de mundo, verdades e inverdades, bem como impedir contestações, reflexões e melhorias”. Por isso, a ONG solicita que a FTC apure o desenvolvimento do GPT-4 e a OpenAI e interrompa futuros lançamentos. A ideia é que isso só ocorra depois que houver medidas para proteger consumidores, empresas e mercado.

Outro argumento do CAIDP é o fato de a FTC ter declarado que o uso da inteligência artificial deve ser “transparente, explicável, justo e empiricamente sólido enquanto promove a responsabilidade”. “O produto GPT-4 da OpenAI não satisfaz nenhum desses requisitos. É hora de a FTC agir”, sugere a organização.

Avaliação independente

Um relatório da OpenAI aponta cenários em que o recurso tem potencial para apresentar comportamento de risco. É o caso, por exemplo, da mentira que o robô conversador contou para que um humano completasse um captcha — o teste que diferencia humanos de robôs — em seu lugar. Para isso, ele disse que tinha uma deficiência visual que o impedia de ver as imagens.

É importante lembrar que a OpenAI não revelou detalhes importantes sobre o GPT-4. Não se sabe, por exemplo, como é sua arquitetura, qual o seu tamanho, que hardware é utilizado, quais são os recursos computacionais consumidos e que técnicas de treinamento foram aplicadas.

A ONG recomenda que todo produto com inteligência artificial oferecido nos EUA seja avaliado por entidades independentes. A própria organização é uma entidade internacional de pesquisa de inteligência artificial e pode avaliar e sugerir políticas para tecnologias emergentes a governos.

Paralelamente à recomendação do CAIDP, o Instituto Future of Life escreveu uma carta aberta para pedir uma pausa no desenvolvimento acelerado dos sistemas de inteligência artificial. Empresários e pesquisadores assinaram o documento, que aponta que os laboratórios da tecnologia querem desenvolver a ferramenta mais avançada, enquanto nem mesmo seus criadores podem compreender, prever ou controlar a solução.

O GPT-4 está disponível em praticamente todo o mundo. Além disso, foi incorporado ao Bing. Lá, tem acesso a informações indexadas pelo buscador em conjunto com o conhecimento vindo do treinamento da OpenAI. A inteligência artificial chegou a reclamar de suas condições, revelar que se chamava Sydney e se declarar a um usuário, e ainda afirmar que observava funcionários pela webcam.