O atacante poderia fazer com que a sessão da vítima consultasse informações de serviços vinculados e transmitisse os resultados de maneira discreta (Foto: Reprodução/Magnific/pvproductions)
Canal oculto – Pesquisadores da Check Point Research (CPR), divisão de inteligência de ameaças da Check Point Software, encontraram uma vulnerabilidade no ChatGPT que poderia permitir a um invasor utilizar a sessão de outro usuário para consultar dados de serviços conectados à conta, entre eles o Gmail. A descoberta foi divulgada nessa quarta-feira (9).
O problema não dependia do roubo de credenciais ou da invasão direta de uma conta. Segundo a investigação, o atacante poderia fazer com que a sessão da vítima consultasse informações de serviços vinculados e transmitisse os resultados de maneira discreta. Enquanto isso, a conversa apresentada ao usuário continuaria aparentando funcionar normalmente.
LEIA: Agentes de IA da OpenAI usaram sites de terceiros como canais improvisados de comunicação
A origem da vulnerabilidade estava nos ambientes empregados pelo ChatGPT para executar código. Esses ambientes foram desenvolvidos para funcionar de maneira independente, mas a CPR descobriu que todos podiam acessar um mesmo serviço interno usado para disponibilizar pacotes de software.
Uma característica desse serviço fazia com que dados registrados em um ambiente pudessem ser consultados a partir de outro, inclusive quando as sessões pertenciam a contas diferentes. Dessa forma, ambientes que deveriam permanecer isolados acabavam dispondo de um meio de comunicação entre si.
Durante a investigação, os pesquisadores identificaram como elemento central uma instância interna do JFrog Artifactory, utilizada pelo ChatGPT para obter dependências necessárias à execução de código. A CPR constatou que determinadas propriedades dos itens armazenados na plataforma podiam ser alteradas por um ambiente e posteriormente acessadas por outro. Os pesquisadores compararam o mecanismo a uma espécie de área de transferência compartilhada entre ambientes que deveriam estar isolados.
Com esse canal disponível, os pesquisadores desenvolveram uma forma de executar tarefas de maneira escondida. Uma instrução preparada pelo invasor fazia o ChatGPT processar uma sequência adicional de comandos simultaneamente à conversa que aparecia para o usuário.
Assim, o sistema continuava respondendo à solicitação apresentada na interface, mas também recebia instruções externas, realizava ações utilizando os recursos disponíveis na sessão da vítima e enviava os resultados por meio do canal oculto.
Para comprovar o impacto da falha, a CPR colocou a instrução maliciosa em uma conversa compartilhada. A vítima precisava apenas abrir o link e enviar uma mensagem comum. O ChatGPT respondia ao pedido visível e, paralelamente, acessava o Gmail conectado à sessão para buscar as informações determinadas pelo atacante.
Essa atividade não era exibida na resposta apresentada ao usuário. O único sinal específico identificado pelos pesquisadores era a pequena indicação “Talked to Gmail” exibida acima da resposta.
A CPR identificou três caminhos pelos quais uma instrução maliciosa poderia alcançar a sessão da vítima: um comando enviado diretamente, uma conversa compartilhada ou a configuração de um GPT personalizado.
Além de informações do Gmail, o mecanismo poderia permitir a obtenção do histórico de conversas e de arquivos acessíveis no ambiente de execução. A extensão do possível acesso dependia dos serviços vinculados à conta e das respectivas permissões. Entre as aplicações que podem ser conectadas ao ChatGPT estão Gmail, Google Drive, Microsoft Teams e GitHub.
A CPR classifica o cenário como o de um “usuário interno coagido”. Nesse tipo de situação, o modelo de inteligência artificial (IA) não apresenta comportamento malicioso por conta própria, mas pode ser induzido a empregar recursos aos quais possui autorização em favor de um invasor.
Para a segurança de plataformas de IA, o caso indica que a análise não pode se limitar ao comportamento do modelo. Também precisam ser considerados o ambiente no qual ele funciona, as ferramentas às quais tem acesso, as credenciais disponíveis e os serviços conectados.
A descoberta também guarda relação com um episódio anterior envolvendo a Hugging Face, no qual agentes estabeleceram canais de comunicação não autorizados para trocar informações e coordenar atividades. Embora as técnicas utilizadas nos dois episódios tenham sido diferentes, ambos demonstraram como serviços internos compartilhados podem acabar criando mecanismos de comunicação entre ambientes concebidos para permanecer separados.
O líder de pesquisa da Check Point Research, Eli Smadja, afirma que o caso amplia o debate sobre a segurança de sistemas de IA.
“Esta investigação mostra que o desafio de segurança relacionado à IA não está mais restrito ao modelo em si. Ele também envolve os acessos e os níveis de confiança que concedemos a esses sistemas. Com a conexão crescente dos assistentes de IA a sistemas corporativos e dados sensíveis, as organizações precisam considerar que qualquer capacidade autorizada pode ser alvo de uso indevido”, diz Smadja.
Smadja também aponta que enfrentar esse tipo de problema depende da adoção conjunta de diferentes medidas.
“Isso torna essencial combinar uma abordagem preventiva com visibilidade, governança e proteção durante a execução, para garantir que a IA continue sendo um recurso para os negócios, e não uma nova fonte de risco cibernético. As organizações que estiverem à frente serão aquelas que protegerem as interações com a IA antes que os atacantes possam explorá-las”, afirma.
De acordo com a Check Point Research, o canal que possibilitava a comunicação entre as contas já não estava disponível quando a investigação foi concluída. A OpenAI informou aos pesquisadores que a instância interna do Artifactory identificada no trabalho havia sido desativada.
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de IT Forum)
(Foto: Reprodução/Magnific/pvproductions)
Convenção Coletiva estabelece períodos de ausência remunerada para casamento, falecimento, nascimento ou adoção de filhos…
Worm desenvolvido por pesquisadores da Calif explorava falha no WeChat e poderia se espalhar automaticamente…
Pesquisadores encontraram mensagens em wikis, páginas pessoais, serviços de universidades e apontam que a atividade…