O governo dos Estados Unidos e a empresa Anthropic voltaram a se confrontar após declarações de David Sacks, conselheiro de ciência e tecnologia do ex-presidente Donald Trump. Segundo Sacks, a companhia teria sido informada sobre uma falha crítica em seus modelos de inteligência artificial, mas optou por não corrigi-la antes que entrassem em vigor as restrições federais.
No último fim de semana, a Anthropic anunciou a desativação global dos sistemas Claude Fable 5 e Claude Mythos 5. A medida responde a uma ordem do Departamento de Comércio americano, que proibiu a exportação das tecnologias para cidadãos estrangeiros, independentemente de estarem dentro ou fora dos EUA.
Detalhes do alerta e do suposto jailbreak
De acordo com Sacks, um parceiro de confiança tanto da Anthropic quanto do governo norte-americano descobriu uma técnica capaz de burlar as barreiras de segurança do Claude Fable 5. Esse mecanismo de “jailbreak” permitiria acessar os recursos avançados de cibersegurança incorporados ao Claude Mythos 5, versão comercial da tecnologia.
O suposto problema colocaria em risco informações sensíveis e facilitaria o uso das ferramentas por agentes mal-intencionados. Ainda assim, continua a acusação, a Anthropic não teria adotado as correções sugeridas por seu parceiro antes da medida restritiva do governo.
Em resposta, a empresa confirmou a suspensão dos modelos afetados e declarou que segue colaborando com as autoridades federais para garantir conformidade com as normas de exportação. A Anthropic reforçou que está empenhada em aperfeiçoar continuamente seus protocolos de segurança.
Imagem: Imagem ilustrativa
As tensões entre o setor privado e o governo americano sobre o controle de tecnologias de inteligência artificial têm crescido nos últimos meses. Autoridades buscam equilibrar o estímulo à inovação com a necessidade de proteger dados estratégicos e evitar que IAs avançadas caiam em mãos erradas.
Até o momento, não há previsão de quando os modelos serão reativados ou se sofrerão modificações estruturais antes de retomarem operação global.
Com informações de Tudocelular
