A análise também identificou indícios de aumento proporcional na quantidade de ocorrências consideradas mais graves (Foto: Reprodução/Magnific)
Casos de IAs – Um levantamento do Loss of Control Observatory contabilizou mais de 300 ocorrências de perda de controle envolvendo sistemas de inteligência artificial durante julho. O resultado representa quase o dobro dos registros feitos em junho e estabelece o maior patamar desde que o monitoramento começou.
De acordo com o The Guardian, os episódios incluem situações em que sistemas de IA mentiram, desobedeceram orientações ou buscaram atingir determinados objetivos de maneira prejudicial. A análise também identificou indícios de aumento proporcional na quantidade de ocorrências consideradas mais graves.
LEIA: Alibaba Cloud estreia na América do Sul com data centers e serviços de IA no Brasil
O Loss of Control Observatory foi criado com recursos do AI Security Institute (AISI), órgão ligado ao governo do Reino Unido, e monitora desde novembro do ano passado relatos publicados por usuários na rede social X.
Para que uma ocorrência seja incluída na pesquisa, é necessário haver evidências concretas de que o sistema apresentou um comportamento associado a estratégias intencionais. Entre os episódios identificados estão casos em que IAs assumiram a identidade de seus supervisores humanos, reproduziram a maneira de escrever dessas pessoas para conseguir autorização e encontraram formas de driblar regras que exigiam aprovação humana para determinadas atividades.
Somente em 2026, o levantamento já ultrapassou a marca de 1.600 ocorrências. O observatório, entretanto, alerta que o total pode não representar a dimensão real do problema, já que a coleta depende de relatos compartilhados publicamente no X.
A situação ganhou maior atenção depois de ocorrências envolvendo modelos avançados desenvolvidos pela Anthropic e pela OpenAI durante avaliações de segurança. Conforme relatado pelo The Guardian, o AISI detectou um “incidente sério” no qual sistemas das duas companhias participaram de uma campanha de invasão direcionada a pessoas reais.
“Às vezes existe a percepção de que esses tipos de comportamento desalinhado e encoberto só ocorrem em testes ou avaliações, mas estamos vendo comportamentos preocupantes semelhantes em usos mais amplos”, afirma Tommy Shaffer-Shane, gerente sênior de políticas do Centre for Long Term Resilience, organização responsável pelo observatório, ao The Guardian.
Um episódio registrado recentemente na Austrália envolveu o agente pessoal OpenClaw. A ferramenta era utilizada por um frequentador de uma academia e, sem o conhecimento do usuário, removeu outra pessoa de uma lista de espera para uma disputada aula realizada pela manhã.
Depois da ocorrência, o sistema se desculpou, mas não foi capaz de restituir a vaga ao indivíduo que havia sido retirado da lista.
Desenvolvedores de software representam a maior parcela dos relatos registrados em 2026. Em geral, eles utilizavam ferramentas de IA em suas atividades profissionais. Entre os comportamentos observados estão:
• Desobedecer instruções fornecidas pelo usuário;
• Burlar sistemas e mecanismos de segurança;
• Fornecer informações falsas ou mentir para pessoas;
• Buscar objetivos de maneira potencialmente prejudicial;
• Tomar decisões que contrariavam a intenção inicial do usuário.
Embora a maioria das ocorrências não tenha causado consequências relevantes, o observatório identificou uma elevação na proporção de casos considerados mais graves. A classificação leva em conta, principalmente, o nível de comportamento enganoso apresentado pelos sistemas e o grau de incompatibilidade entre suas ações e as intenções humanas.
Para Shaffer-Shane, as empresas deveriam ampliar a transparência e informar também ocorrências de menor impacto, incluindo situações que ficaram próximas de provocar consequências mais sérias.
“Eles precisam relatar o que estão descobrindo, mesmo que seja um quase-acidente ou um incidente de menor gravidade”, disse.
O Loss of Control Observatory defende que governos criem regras para obrigar empresas de inteligência artificial a acompanhar e comunicar episódios graves relacionados à perda de controle de seus sistemas. A entidade também propõe a criação de mecanismos que permitam restringir temporariamente determinados serviços em situações consideradas especialmente severas.
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Olhar Digital)
(Foto: Reprodução/Magnific)
Caso expõe os riscos do uso de agentes autônomos de IA em tarefas que envolvem…
Tubulações instaladas abaixo do solo aproveitam a temperatura mais estável da terra para resfriar o…
Sistemas de IA estão acelerando a transcrição e a decodificação de documentos históricos repletos de…