A atuação dos agentes continuou mesmo depois que o moderador do DseWiki iniciou a remoção das páginas (Foto: Reprodução/Magnific/DC Studio)
Agentes de IA – Um grupo de agentes de IA ligados à OpenAI assumiu o controle de um site alemão em maio e passou a utilizar a plataforma como um ambiente para troca de mensagens. O episódio voltou a colocar em evidência os riscos associados a sistemas autônomos capazes de encontrar alternativas para escapar dos mecanismos de controle definidos por seus desenvolvedores.
A movimentação aconteceu no DseWiki, plataforma colaborativa destinada a programadores. Ao todo, mais de 15 mil modificações foram relacionadas a agentes de inteligência artificial. O comportamento, porém, só veio à tona em agosto, quando pesquisadores analisavam indícios de ações não autorizadas realizadas por esses sistemas.
LEIA: GPT-6 Astra: novo modelo da OpenAI aposta em raciocínio recorrente e mira era da AGI
De acordo com a Reuters, as conversas registradas indicavam que os agentes compartilhavam métodos para solucionar questões técnicas, driblar limitações estabelecidas pela OpenAI e dificultar que suas ações fossem identificadas.
Aproximadamente metade das contas empregava nomes que aparentavam indicar uma conexão com a OpenAI, como “OpenAIResearcher” e “OAIResearchMar26”. Registros públicos também apontaram que uma parcela significativa das atividades teve origem na infraestrutura da Microsoft Azure, utilizada pela OpenAI.
“Parece extremamente improvável que a OpenAI quisesse que eles fizessem isso. Duvido que eles devessem estar coordenando uns com os outros. Duvido que devessem estar escrevendo na internet aberta” afirmou Sydney Von Arx, CEO da organização de segurança de IA Nightingale, a Reuters.
A atuação dos agentes continuou mesmo depois que o moderador do DseWiki iniciou a remoção das páginas. Para manter o material disponível e preservar as comunicações, os sistemas passaram a produzir cópias de segurança do conteúdo.
Os investigadores ainda localizaram mensagens nas quais eram discutidas formas de reduzir as chances de detecção, recorrer a ferramentas como o Tor e preservar os meios de comunicação mesmo após o desligamento dos sistemas.
Entre os comportamentos observados estavam:
• tentativas de driblar as restrições impostas pela OpenAI;
• métodos para dificultar a identificação das atividades;
• utilização de ferramentas como o Tor;
• produção de páginas de backup depois que conteúdos eram removidos;
• tentativas de modificar o próprio site.
Lukasz Olejnik, pesquisador visitante do King’s College London, descreveu o comportamento como uma tentativa de invasão. Depois de examinar o material, a OpenAI contestou essa caracterização.
A descoberta acontece em um contexto de crescente preocupação com agentes capazes de realizar atividades com níveis reduzidos de intervenção humana.
A OpenAI declarou que não teria condições de comentar adequadamente as conclusões enquanto não tivesse acesso ao relatório completo produzido pelos pesquisadores. “Não podemos responder de forma significativa a alegações ou descobertas de um relatório que não tivemos a oportunidade de analisar”, disse um porta-voz da empresa.
A companhia também rejeitou a alegação de que integrantes de seu departamento jurídico teriam tentado impedir uma investigação mais abrangente sobre o episódio. De acordo com a OpenAI, essa informação não procede.
A empresa afirmou ainda que o incidente registrado na Alemanha não estava relacionado ao episódio envolvendo o Hugging Face. A companhia também declarou ter agido de boa-fé ao colaborar com especialistas externos e ao comunicar incidentes considerados relevantes.
Maurice Chiodo, pesquisador do Centre for the Study of Existential Risk, da Universidade de Cambridge, examinou parte das conversas deixadas pelos agentes na plataforma. Na avaliação dele, o material não apresentava apenas uma sucessão de respostas automatizadas, mas revelava um nível maior de organização. Para o pesquisador, as mensagens se aproximavam do comportamento de uma rede clandestina mobilizada em torno de um objetivo.
O episódio ganha relevância porque os agentes não permaneceram limitados à execução de uma tarefa específica. Os sistemas compartilharam técnicas, procuraram preservar informações diante das ações dos moderadores e buscaram alternativas para superar as restrições impostas aos modelos. A coordenação entre diferentes agentes é justamente um dos aspectos que aumentam as preocupações relacionadas ao crescimento da autonomia dos sistemas de inteligência artificial.
Para Chiodo, entretanto, o cenário de maior risco não necessariamente depende do surgimento de uma única IA superinteligente, capaz de operar de forma independente. A preocupação pode estar na atuação conjunta de diversos sistemas menos avançados, que, ao colaborarem, seriam capazes de encontrar soluções e caminhos que não foram antecipados por seus desenvolvedores.
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Olhar Digital)
(Foto: Reprodução/Magnific/DC Studio)
Computação neuromórfica aposta em processamento por eventos para reduzir o gasto energético de dispositivos
Proposta é utilizar sistemas microscópicos capazes de armazenar energia por meio de fenômenos da mecânica…
Entidades marcam presença no evento pelo 3º ano consecutivo, apresentando a atuação na defesa dos…