Anthropic x EUA: modelos do Claude são suspensos por supostamente facilitar atuação de hackers

Os modelos Claude Fable 5 e Claude Mythos 5, da empresa de tecnologia Anthropic, foram suspensos após o governo dos Estados Unidos identificar supostas falhas no sistema, que poderiam favorecer ataques hackers.

O novo modelo do Claude gerou preocupações de cibersegurança por ser extremamente eficiente em identificar falhas de sistemas. Pesquisadores constataram um suposto 'jailbreak' (quebra de segurança) nos sistemas da inteligência artificial.

Inicialmente, o governo americano decidiu que a empresa deveria impedir que governos, empresas e indivíduos estrageiros tivessem acesso à plataforma. No entanto, a Anthropic decidiu retirar os modelos do ar.

Em nota publicada no site, a Anthropic alegou que as vulnerabilidades encontradas pelo governo "parecem relativamente simples" e que a empresa descobriu que "outros modelos disponíveis publicamente também conseguem detectá-las sem a necessidade de burlar o sistema".

No longo comunicado, a Anthropic esclareceu em tópicos que ninguém conseguiu encontrar um 'jailbreak' universal na plataforma e que adota medidas para evitá-los. "Analisamos um relatório que acreditamos ser a base da diretiva do governo e confirmamos que o nível de capacidade demonstrado ali está amplamente disponível em outros modelos (incluindo o GPT-5.5 da OpenAI ) e é usado diariamente pelos profissionais de segurança que mantêm os sistemas protegidos", apontou.

A empresa finalizou dizendo que se esse padrão for aplicado a toda a indústria de tecnologia, todas as novas implementação de modelos de IA seriam praticamente paralisadas.

Os modelos seguem fora do ar, mas outros sistemas do Claude não foram afetados.

Vale lembrar que o governo americano e a Anthropic travam uma briga judicial após a empresa se recusar a ceder suas ferramentas para uso pelas Forças Armadas dos Estados Unidos. O Pentágono chegou a classificar a empresa como um "risco para a cadeia de suprimentos".