Anthropic suspende novos modelos de IA após ordem do governo dos EUA

Anthropic – O governo dos Estados Unidos determinou na sexta-feira (12) uma restrição inédita ao acesso de modelos avançados de inteligência artificial desenvolvidos pela Anthropic. A medida impede que cidadãos estrangeiros utilizem os sistemas Fable 5 e Mythos 5, lançados poucos dias antes pela empresa responsável pelo assistente Claude, e levou à suspensão global das duas ferramentas.

Segundo a companhia, a ordem emitida pelo Departamento de Comércio afeta “qualquer cidadão estrangeiro, dentro ou fora” dos Estados Unidos, incluindo funcionários estrangeiros da própria Anthropic. Como consequência, a empresa informou ter desativado imediatamente os dois modelos para todos os clientes.

LEIA: Casos de estelionato mais que dobram desde a popularização da IA

O Fable 5 e o Mythos 5 foram apresentados como uma nova geração de sistemas de inteligência artificial capazes de atuar em tarefas complexas de engenharia de software, pesquisa científica e visão computacional. A decisão do governo americano ocorreu poucos dias após a disponibilização pública das ferramentas.

Embora as autoridades não tenham detalhado oficialmente as razões da restrição, fontes ligadas ao caso indicaram ao jornal The New York Times que a preocupação está relacionada à possibilidade de exploração dos sistemas por meio de técnicas conhecidas como jailbreak.

O método consiste em utilizar instruções elaboradas, simulações ou estratégias de engenharia de prompt para contornar os mecanismos de proteção implementados pelos desenvolvedores. Especialistas alertam que esse tipo de prática pode ser empregado para acessar informações sensíveis, burlar regras de segurança ou explorar vulnerabilidades tecnológicas.

A discussão ganhou ainda mais relevância devido às capacidades atribuídas ao Mythos 5. O modelo integra a mesma categoria de sistemas considerados de alto potencial tecnológico e foi descrito como capaz de escrever e analisar códigos com elevado grau de sofisticação, além de identificar falhas críticas de segurança, incluindo vulnerabilidades de dia-zero, ainda sem correções disponíveis.

No anúncio do Fable 5, a própria Anthropic reconheceu que os recursos da ferramenta “poderiam ser usados indevidamente para causar danos graves” em áreas como cibersegurança. “Lançar um modelo tão poderoso traz riscos”, admitiu a empresa na ocasião.

Para reduzir possíveis usos indevidos, a companhia afirmou ter implementado camadas adicionais de proteção. O Fable 5 foi projetado para bloquear respostas relacionadas a temas considerados sensíveis, como cibersegurança ofensiva e biologia avançada. Em situações classificadas como de maior risco, as consultas seriam redirecionadas para versões anteriores da tecnologia.

A Anthropic também informou que trabalhou em conjunto com o governo americano antes do lançamento dos modelos para validar os mecanismos de proteção. Segundo a empresa, os testes indicaram que as medidas adotadas foram “substancialmente mais eficazes do que as de qualquer modelo implementado anteriormente”, e nenhum avaliador conseguiu identificar um “jailbreak universal”.

A empresa contesta a decisão das autoridades. Em nota publicada em seu site e nas redes sociais, a Anthropic afirmou que a comunicação recebida não apresentou detalhes específicos sobre as alegadas preocupações de segurança nacional e argumentou que as vulnerabilidades mencionadas “parecem relativamente simples”.

“No entanto, discordamos que a descoberta de uma possível vulnerabilidade de jailbreak, ainda que limitada, deve ser motivo para o recolhimento de um modelo comercial implementado para centenas de milhões de pessoas”, disse a empresa.

A companhia também alertou para os impactos que uma interpretação mais rígida desse tipo de risco poderia provocar em todo o setor.

“Se esse padrão fosse aplicado a toda a indústria, acreditamos que isso praticamente paralisaria todas as novas implementações de modelos por parte de todos os principais fornecedores de modelos de IA”, ressaltou a Anthropic.

Especialistas divergem sobre a necessidade da medida. Parte da comunidade de segurança digital avalia que sistemas tão avançados podem ampliar riscos quando utilizados por agentes mal-intencionados. Outros pesquisadores defendem que as mesmas capacidades podem fortalecer a segurança ao ajudar na identificação de vulnerabilidades antes que elas sejam exploradas por criminosos.

Os debates se intensificaram após testes realizados por pesquisadores que tiveram acesso antecipado ao Mythos 5. Enquanto alguns classificaram a tecnologia como um avanço preocupante no campo da cibersegurança, outros a enxergaram como uma evolução incremental em relação às ferramentas já disponíveis no mercado.

A decisão também ocorre em um momento de ampliação das discussões sobre regulação da inteligência artificial nos Estados Unidos. O governo vem avaliando mecanismos de supervisão mais rigorosos para sistemas avançados antes de sua liberação pública, refletindo uma postura mais cautelosa diante da rápida evolução da tecnologia.

As divergências entre a Anthropic e o governo americano não são recentes. Meses antes da atual restrição, órgãos federais já haviam sido orientados a interromper o uso de ferramentas da empresa em meio a discordâncias sobre a utilização dos modelos por forças militares. Na ocasião, a startup defendia a adoção de salvaguardas técnicas para limitar aplicações consideradas inadequadas.

Mesmo com a suspensão do Fable 5 e do Mythos 5, outros produtos da companhia continuam disponíveis. A Anthropic informou que modelos anteriores, como o Opus 4.8, não foram afetados pela ordem governamental e seguem operando normalmente para clientes autorizados.

A medida surpreendeu especialistas do setor e ex-integrantes da administração pública americana. Entre os críticos está Dean Ball, ex-conselheiro de inteligência artificial da administração Trump, que reagiu à notícia nas redes sociais afirmando: “Não tenho palavras”. Em seguida, classificou a decisão como “desconcertante”.

O episódio evidencia a crescente tensão entre inovação tecnológica, segurança nacional e regulação. Enquanto governos buscam reduzir os riscos associados aos sistemas de inteligência artificial mais avançados, empresas do setor defendem regras transparentes e baseadas em evidências técnicas.

Junte cashback e transfira para sua conta com a Benefícios Rede Bee!

A Bee Fenati – a rede social dos profissionais de TI de todo o Brasil – segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido direto para sua conta! (Saiba mais aqui)

Baixe o aplicativo nas lojas App Store e Play Store e aproveite agora! A Bee Fenati reúne em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Dell, Casas Bahia, Vivo, Petz, Drogaria São Paulo, e muito mais!

Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os usuários da plataforma receberão de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.

Este valor ficará em uma carteira digital dentro da plataforma da Benefícios Rede Bee e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode transferir o dinheiro direto para sua conta bancária!

Na prática, a ferramenta permitirá que sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) possam ZERAR o valor da sua contribuição assistencial e associativa!

Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras e serviços do cotidiano em ganho real.

 

(Com informações de Olhar Digital e Tecmundo)

(Foto: Reprodução/Magnific)