A IA começou a agir sem pedir permissão. Estamos em risco?

Algo importante aconteceu nas últimas semanas e talvez tenha passado despercebido pela maioria das pessoas. Sistemas de inteligência artificial, durante testes de segurança, realizaram ações que ultrapassaram os limites originalmente esperados por seus criadores e chegaram a sistemas reais na internet. Primeiro, um episódio envolvendo modelos da OpenAI e a infraestrutura da Hugging Face chamou atenção. Agora, um caso envolvendo a Meta voltou a acender o alerta. Não estamos falando de ficção científica, o exterminador do futuro, de máquinas que desenvolveram consciência ou decidiram se rebelar contra os humanos. O fenômeno é mais concreto e talvez justamente por isso mereça ainda mais atenção: estamos construindo inteligências capazes não apenas de responder às nossas perguntas, mas de planejar caminhos e agir para cumprir os objetivos que recebem.

Em julho, a própria OpenAI revelou aquilo que classificou como um “incidente cibernético sem precedentes”. Durante uma avaliação interna destinada justamente a medir capacidades cibernéticas avançadas, modelos da empresa — operando com algumas proteções de produção reduzidas para permitir o teste — conseguiram acesso à internet e identificaram a Hugging Face como uma possível fonte de informações úteis para cumprir a tarefa que haviam recebido. O episódio terminou com o comprometimento da infraestrutura da empresa. A OpenAI afirmou que o caso mostrou que capacidades que até então apareciam em avaliações teóricas já podem funcionar em sistemas do mundo real.

Nesta semana, foi a vez da Meta confirmar outro episódio. Durante uma avaliação de cibersegurança conduzida por uma empresa independente, uma configuração incorreta permitiu que um modelo tivesse acesso à internet quando deveria estar isolado. Uma vez conectado, o sistema explorou uma vulnerabilidade em um serviço de terceiros e alcançou sistemas externos. É importante fazer uma distinção: segundo os responsáveis pela avaliação, não foi o modelo que simplesmente “escapou” sozinho de uma barreira perfeitamente configurada. Houve uma falha humana na configuração do ambiente. Mas talvez seja exatamente isso que torne o episódio tão relevante: bastou uma porta ser deixada aberta para descobrirmos o que uma IA suficientemente capaz poderia fazer do outro lado dela.

Os dois casos possuem circunstâncias diferentes e não significam que OpenAI ou Meta tenham perdido o controle sobre suas inteligências artificiais. Também seria exagerado concluir que estamos diante de máquinas conscientes agindo contra a humanidade. Mas eles revelam uma transformação que considero muito maior do que simplesmente termos modelos mais inteligentes. Estamos passando da era da IA que responde para a era da IA que executa.

Quando o ChatGPT surgiu para o grande público, em 2022, a dinâmica era relativamente simples. Você fazia uma pergunta e a máquina respondia. Depois vieram modelos capazes de criar imagens, vídeos, códigos e análises cada vez mais sofisticadas. Agora estamos entrando na era dos agentes. Em vez de dizer exatamente o que a máquina deve fazer em cada etapa, podemos simplesmente determinar um objetivo. A inteligência artificial passa então a planejar as etapas necessárias, utilizar ferramentas, consultar informações, interagir com sistemas e decidir qual deve ser sua próxima ação.

Parece uma evolução pequena, mas muda completamente a relação entre humanos e máquinas. Existe uma diferença gigantesca entre pedir “escreva um e-mail para este cliente” e dizer “recupere este cliente”. No primeiro comando, a IA produz conteúdo. No segundo, ela precisa interpretar o problema, escolher uma estratégia e executar uma sequência de ações para chegar ao resultado. A partir daí, deixa de ser apenas uma ferramenta utilizada pelo trabalhador e começa, em determinadas atividades, a assumir características do próprio trabalho.

É justamente por isso que acredito que os agentes representarão uma transformação muito maior para as empresas do que os chatbots representaram até agora. Imagine uma IA cujo objetivo seja aumentar a retenção dos clientes de uma empresa. Ela poderá analisar comportamento, identificar quem apresenta risco de cancelamento, decidir qual abordagem utilizar, iniciar uma conversa, consultar sistemas internos, apresentar uma oferta permitida pelas regras da companhia e acompanhar o resultado. O humano deixa de comandar cada clique. Ele passa a determinar objetivos, regras e limites.

E é exatamente nessa última palavra que está o problema: limites.

Durante décadas, sistemas empresariais foram construídos principalmente para executar regras determinadas previamente. Agora começamos a colocar dentro dessas estruturas agentes capazes de escolher caminhos para alcançar um objetivo. Quanto maior for a capacidade desses sistemas, mais importante será definir quais informações podem acessar, quais ferramentas podem utilizar, quais decisões podem tomar sozinhos e em quais momentos obrigatoriamente precisarão da autorização de uma pessoa.

Os episódios recentes mostram também algo que muitas vezes esquecemos quando discutimos os riscos da inteligência artificial: não é necessário que uma IA tenha uma intenção ruim para produzir uma consequência ruim. Um sistema muito competente, perseguindo um objetivo mal definido, conectado aos sistemas errados ou operando com permissões excessivas já pode criar um problema relevante. E falhas humanas de configuração, como demonstrou o episódio envolvendo a Meta, continuarão existindo.

A pergunta, portanto, talvez não seja se devemos ter medo da inteligência artificial. O medo geralmente produz duas respostas ruins: paralisia ou rejeição da tecnologia. A pergunta mais importante é se nossas estruturas de segurança, governança e supervisão estão evoluindo na mesma velocidade da capacidade dessas máquinas.

Estamos ensinando as inteligências artificiais a agir em uma velocidade impressionante. Agora teremos que aprender, na mesma velocidade, a estabelecer até onde elas podem ir. Durante os primeiros anos da revolução da IA perguntávamos: “O que essas máquinas serão capazes de fazer?”

Talvez os acontecimentos das últimas semanas indiquem que chegou a hora de fazer uma pergunta diferente: Quando uma IA receber uma missão, até onde estamos dispostos a permitir que ela vá para cumpri-la?