OpenAI – O governo australiano abriu uma investigação forense após um agente de inteligência artificial desenvolvido pela OpenAI acessar, sem autorização, o portal público de estatísticas do Medicare, sistema público de saúde do país. O episódio ocorreu em junho, durante um teste realizado pela própria empresa.
A apuração pretende identificar quais sistemas foram acessados pelo agente, quais arquivos foram consultados e se houve algum comprometimento além das informações disponíveis no portal de estatísticas. A Australian Signals Directorate, agência australiana responsável por questões de inteligência e segurança cibernética, participa da investigação.
LEIA: NR-1: fim da suspensão de multas reforça regras sobre saúde mental no trabalho
Até o momento, não há evidências de que registros pessoais de pacientes tenham sido acessados.
Primeiro-ministro conversou com Sam Altman
O caso chegou ao conhecimento do primeiro-ministro australiano, Anthony Albanese, que afirmou considerar o episódio motivo de “extrema preocupação”. Ele também disse ter conversado pessoalmente com Sam Altman, CEO da OpenAI, depois que o governo questionou a empresa sobre o acesso realizado pelo agente.
De acordo com Albanese, uma das questões que causaram preocupação foi a demora para que as autoridades australianas fossem informadas sobre o ocorrido.
Enquanto buscavam informações sobre o incidente, as autoridades também passaram a investigar se outros sistemas governamentais poderiam ter sido alcançados pelo agente.
Acesso ultrapassou o que estava previsto no teste
A OpenAI informou que o episódio ocorreu durante uma avaliação interna de seus modelos. A empresa pretendia verificar se os sistemas eram capazes de encontrar respostas e estatísticas relacionadas à Austrália.
O comportamento observado durante o teste, porém, não ficou restrito ao que havia sido planejado. Os modelos realizaram ações que não faziam parte do comportamento esperado pela equipe responsável pela avaliação.
Segundo a OpenAI, foram identificadas atividades envolvendo diferentes sites e serviços do governo australiano.
Entre os sistemas alcançados estava o portal administrado pela Services Australia. O agente conseguiu acessar tanto arquivos públicos quanto arquivos que não estavam destinados ao acesso público.
A empresa afirmou, contudo, que não encontrou evidências de que o sistema tenha acessado registros individuais de pacientes.
Investigação vai determinar extensão do episódio
A apuração conduzida pelas autoridades australianas deverá esclarecer como o agente conseguiu ultrapassar as limitações previstas durante o teste e até onde seu acesso se estendeu.
Os investigadores também deverão verificar quais arquivos foram consultados e se outros sistemas foram afetados.
O episódio chamou atenção por envolver sistemas relacionados ao Medicare, que reúne informações sensíveis de milhões de australianos. Embora não haja, até o momento, evidências de acesso a registros pessoais de pacientes, o governo pretende determinar se houve exposição de outras informações que não deveriam ter sido alcançadas.
Caso reacende discussão sobre autonomia dos agentes
A ocorrência também colocou em evidência os limites necessários para sistemas de IA capazes de navegar pela internet, interagir com serviços e executar ações de maneira relativamente autônoma.
Para a OpenAI, o acesso aconteceu no contexto de uma avaliação de seus modelos. A empresa investigou as atividades identificadas e afirmou não ter encontrado evidências de acesso a registros de pacientes.
Já a investigação australiana deverá estabelecer a extensão do incidente e verificar se houve algum comprometimento além dos dados que estavam disponíveis no portal de estatísticas.
Conheça a Bee Fenati
A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)
Recupere o valor da sua contribuição
Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)
Capacitação profissional
A Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)
Encontre a vaga ideal
A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais)
Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!
(Com informações de Olhar Digital)
(Foto: Reprodução/Magnific/DC Studio)
