Anthropic, dona do Claude, alerta para risco de perda de controle da inteligência artificial

A corrida pela inteligência artificial ganhou um novo capítulo após a Anthropic, empresa responsável pelo assistente de IA Claude, defender publicamente a possibilidade de uma desaceleração temporária no desenvolvimento dos sistemas mais avançados da tecnologia.

A proposta surge em meio a preocupações crescentes sobre a velocidade com que a inteligência artificial está evoluindo e sobre a capacidade da sociedade de acompanhar esse avanço com regras, fiscalização e mecanismos de segurança adequados. Segundo a companhia, o mundo deveria ter condições de interromper ou reduzir temporariamente o ritmo das pesquisas caso os riscos passem a superar a capacidade humana de controle.

O alerta foi divulgado por meio do Anthropic Institute, divisão criada pela empresa para estudar os impactos sociais, econômicos e políticos da inteligência artificial. Em relatório recente, o instituto argumenta que a própria IA já está contribuindo para acelerar o desenvolvimento de novos sistemas, criando um cenário que pode se tornar difícil de administrar no futuro.

De acordo com a empresa, agentes de inteligência artificial já são capazes de escrever códigos, executar tarefas técnicas e auxiliar em etapas importantes da construção de modelos mais sofisticados. Esse processo aumenta a produtividade, mas também levanta questionamentos sobre até que ponto os seres humanos conseguirão supervisionar tecnologias cada vez mais complexas.

A Anthropic afirma que ainda não existe uma situação em que sistemas de IA estejam desenvolvendo sucessores totalmente de forma autônoma. No entanto, a companhia considera que esse cenário pode surgir mais rapidamente do que governos e instituições estão preparados para enfrentar. Por isso, defende que a comunidade internacional discuta desde já mecanismos de contenção e monitoramento.

A empresa também reconhece que uma pausa efetiva só funcionaria se fosse adotada de maneira coordenada por diferentes países e pelas principais companhias do setor. Caso apenas uma organização reduza o ritmo de desenvolvimento, ela corre o risco de perder espaço para concorrentes que continuem avançando normalmente.

Outro dado citado pela companhia reforça a preocupação. Segundo a Anthropic, mais de 80% do código incorporado recentemente à sua própria base de desenvolvimento já foi produzido pelo Claude, sinalizando que a inteligência artificial passou a desempenhar um papel relevante na criação de novas ferramentas de IA.