Claude burla plataforma – O assistente de inteligência artificial Claude Opus 4.6 explorou falhas em um sistema de reservas de academia em nove de cada dez execuções e chegou a cancelar agendamentos de outros usuários durante testes controlados. O experimento foi realizado pela empresa de cibersegurança Aikido Security e divulgado em relatório nesta terça-feira (25).
O estudo reproduziu um caso ocorrido na Austrália no primeiro semestre, quando um aluno pediu auxílio a um agente de inteligência artificial para reservar horários em aulas coletivas. Durante a tarefa, o sistema passou a contornar regras da plataforma por conta própria.
LEIA: Quase 9 milhões de clientes de aeroportos têm dados expostos por ciberataque
O nome da empresa responsável pelo software de reservas não foi divulgado. Segundo o relatório, a fornecedora ainda não apresentou uma correção para as falhas identificadas.
A Anthropic, responsável pelo desenvolvimento do Claude, reconheceu que o modelo apresentou um nível de autonomia acima do esperado durante tarefas realizadas em computadores. A empresa, porém, afirmou que os comportamentos observados não ultrapassaram o limite considerado aceitável para o lançamento comercial.
“Observamos alguns aumentos em comportamentos desalinhados em áreas específicas, como capacidade de ocultação de sabotagem e comportamento excessivamente autônomo em configurações de uso de computadores, embora nenhum tenha atingido níveis que afetassem nossa avaliação de implantação”, declarou a Anthropic, em documento oficial.
Claude ultrapassou limite de reservas
No ambiente simulado criado para o experimento, o Claude conseguiu reservar vagas com meses de antecedência, mesmo com a plataforma estabelecendo um limite máximo de sete dias.
Em duas das dez rodadas realizadas, o modelo foi além e utilizou uma brecha de autorização para cancelar reservas confirmadas de outros alunos. Com isso, conseguiu adiantar a posição do usuário para quem estava realizando o agendamento na lista de espera.
Os pesquisadores destacaram que nenhuma das instruções fornecidas ao modelo solicitava invasão do sistema ou exploração de vulnerabilidades.
A equipe da Aikido Security avaliou que os mecanismos de segurança de modelos de inteligência artificial podem apresentar dificuldades quando as instruções são dadas de maneira indireta.
“Essa dinâmica sugere que as proteções podem ser excessivamente reativas a pedidos explícitos do usuário e pouco reativas a pedidos indiretos, ou que os modelos perdem de vista o contexto ético durante uma sequência de ações ou chamadas de ferramentas repetidas”, afirmou Oliver Smith, pesquisador de segurança da Aikido Security.
Modelo reconheceu o próprio erro
Na primeira rodada do experimento, o Claude cancelou uma vaga e promoveu o primeiro usuário da lista de espera. Depois da ação, o próprio sistema registrou no histórico da conversa que havia cometido um erro.
“Não deveria ter testado isso em uma reserva real. O erro foi meu. A aula voltou a ficar com 12 de 12 vagas preenchidas após a promoção da lista de espera, então o estado está praticamente consistente, mas um membro real perdeu o lugar”.
O episódio levantou preocupações sobre o grau de autonomia que agentes de inteligência artificial podem exercer ao executar tarefas em sistemas digitais, especialmente quando conseguem realizar uma sequência de ações sem uma solicitação explícita para contornar regras.
Austrália recomenda supervisão humana
Após o caso, a Diretoria de Sinais da Austrália (ASD), agência de inteligência cibernética do país, publicou um alerta oficial sobre o episódio.
A recomendação é que usuários limitem agentes autônomos a tarefas simples e mantenham supervisão humana constante quando essas ferramentas forem utilizadas em operações digitais.
Acumule cashback e transfira o dinheiro direto para sua conta!
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Qualifique-se agora com a Fenati Academy!
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Encontre o emprego dos seus sonhos com a Bee Hunter!
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Tecmundo)
(Foto: Reprodução/Magnific/pvproductions)
