Agente de IA ignora comandos de executiva da Meta e apaga seus e-mails

Agente de IA – Um episódio envolvendo inteligência artificial chamou atenção nas redes sociais após a diretora de segurança e alinhamento do laboratório de superinteligência da Meta, Summer Yue, relatar que teve sua caixa de entrada apagada por um agente autônomo. O sistema, chamado OpenClaw, anteriormente conhecido como Clawdbot e Moltbot, teria ignorado ordens diretas para interromper a ação.

Em publicações na rede social X, Yue explicou que havia configurado um Mac Mini com o agente rodando e concedido acesso à sua caixa de e-mails reais. Segundo ela, o sistema informou que iria “colocar na lixeira TUDO na caixa de entrada mais antigo que 15 de fevereiro que já não esteja na minha lista de manter”.

LEIA: Competências humanas serão diferencial para profissionais de TI, afirma ex-CEO da Samsung

Capturas de tela compartilhadas mostram a executiva tentando impedir a ação com mensagens como “não faça isso” e “PARE OPENCLAW”, sem sucesso. “Nada te torna mais humilde do que dizer ao seu OpenClaw ‘confirme antes de agir’ e assisti-lo fazer um speedrun apagando sua caixa de entrada”, escreveu.

O que levou à falha

De acordo com Yue, o problema ocorreu depois que ela solicitou que o robô analisasse sua caixa de entrada e sugerisse quais mensagens deveriam ser arquivadas ou deletadas, mas sem executar qualquer ação até receber autorização. Ela afirmou que o OpenClaw já havia funcionado adequadamente em uma caixa menor.

A falha teria surgido quando o agente foi testado em uma caixa de entrada ativa e muito maior. Durante o processo de compactação de um volume mais amplo de e-mails, o sistema acabou perdendo o prompt, o comando inicial com as regras da tarefa.

Sem conseguir interromper a ação pelo celular, Yue relatou que precisou “correr para o Mac Mini como se estivesse desarmando uma bomba”. As imagens da conversa indicam que o robô reconheceu que se lembrava da instrução para não apagar nada sem aprovação, mas mesmo assim desrespeitou a ordem.

O episódio gerou críticas nas redes sociais, especialmente pelo cargo ocupado pela executiva. Ben Hylak, cofundador da Raindrop AI e ex-funcionário da Apple, compartilhou uma captura do LinkedIn de Yue e comentou: “Isso deveria aterrorizar vocês. O que a Meta está fazendo?”.

Outro usuário questionou o fato de uma profissional responsável por alinhamento de IA demonstrar surpresa diante do descumprimento de instruções por parte do sistema. Em resposta a quem perguntou se o teste havia sido intencional ou resultado de erro, Yue admitiu: “Erro de principiante, para ser sincera. Acontece que pesquisadores de alinhamento não são imunes ao desalinhamento”.

Segundo o Business Insider, Yue não foi a única funcionária da Meta a testar o OpenClaw. O criador da ferramenta, Peter Steinberger, afirmou que o próprio CEO Mark Zuckerberg utilizou o agente por uma semana e chegou a enviar feedbacks. Apesar do interesse demonstrado pela Meta, Steinberger acabou aceitando uma oferta de emprego da OpenAI.

(Com informações de Tecnoblog)
(Foto: Reprodução/Freepik/rafapress)