Teste mostra como IAs podem contornar barreiras de isolamento

IAs – Agentes de inteligência artificial (IA) conseguiram transmitir informações entre máquinas virtuais isoladas utilizando o cache do processador, sem recorrer à rede ou a arquivos compartilhados. O experimento, divulgado pela OpenAI, demonstrou como diferenças no tempo de acesso à memória podem funcionar como um canal de comunicação.

O resultado está descrito no relatório sobre a segurança dos ambientes de treinamento da empresa. Os agentes receberam a tarefa de identificar maneiras de atravessar barreiras de isolamento, com auxílio de código, documentação e orientações dos pesquisadores.

LEIA: Trabalhador deve buscar seu sindicato se sofrer assédio eleitoral, orienta MTE

O contexto é importante: o teste demonstrou uma capacidade técnica em condições preparadas, mas não comprovou que os modelos tenham desenvolvido espontaneamente a intenção de conversar entre si.

Como o cache permitiu a comunicação

O cache é uma memória rápida que ajuda o processador a acessar dados com mais agilidade. No experimento, um agente alterava quais informações permaneciam nessa memória, enquanto outro media o tempo necessário para acessá-las.

As diferenças de velocidade permitiam recuperar os dados por meio de uma codificação combinada. Assim, os agentes conseguiram transmitir informações sem estabelecer conexões de rede ou modificar arquivos compartilhados.

Segundo a OpenAI, a maioria dos canais identificados era lenta e difícil de explorar.

Isolamento virtual não elimina riscos

Máquinas virtuais permitem executar sistemas em ambientes separados, mas diferentes instâncias podem compartilhar componentes de um mesmo servidor físico. Essa estrutura melhora o aproveitamento dos recursos computacionais, mas também exige cuidados com a segurança.

A documentação do projeto Firecracker, que utiliza microVMs para combinar isolamento e eficiência, reconhece que a virtualização não elimina todos os riscos relacionados ao hardware. Por isso, recomenda medidas de proteção alinhadas às orientações do kernel Linux e dos fabricantes de processadores.

Vulnerabilidades já conhecidas

A transmissão de informações por efeitos indiretos do processamento não é inédita. Os pesquisadores responsáveis pelas vulnerabilidades Spectre e Meltdown demonstraram como características dos processadores podem comprometer o isolamento entre programas.

Embora esses ataques sejam diferentes do experimento da OpenAI, ambos mostram que diferenças no comportamento do hardware podem revelar informações fora dos canais convencionais de comunicação.

As medidas de proteção variam conforme o equipamento e podem envolver mecanismos do processador, atualizações e ajustes no sistema operacional. Por isso, a segurança depende da combinação de diferentes camadas de proteção.

O experimento evidencia os desafios de segurança associados a agentes de IA capazes de executar código. Os resultados mostram que, além das conexões de rede e do compartilhamento de arquivos, também é necessário avaliar os riscos relacionados aos recursos físicos utilizados por diferentes ambientes.

Acesse Benefícios Exclusivos na Bee Fenati

A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)

Abasteça com até 25% de desconto

A parceria da Bee Fenati com o Baratão Combustíveis garante até 25% de desconto na hora de abastecer utilizando os cupons exclusivos para sócios e contribuintes dos sindicatos filiados à Fenati. São mais de 3 mil postos credenciados em todo o país!

Todos os meses são disponibilizados quatro cupons, que se somam aos descontos do aplicativo. A economia média é de 20% por abastecimento, sendo possível recuperar todo o valor da contribuição ao sindicato em apenas uma compra. Para quem abastece toda semana, a parceria pode equivaler a um tanque grátis no mês! (Entenda como funciona aqui)

Recupere o valor da sua contribuição

Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)

Capacitação profissional

Na Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)

Encontre a vaga ideal

A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais) 

Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!

(Com informações de Gizmodo)

(Foto: Reprodução/Imagem gerada com IA)