Agente de IA da OpenAI acessa sistema de saúde da Austrália sem autorização

OpenAI – O governo australiano abriu uma investigação forense após um agente de inteligência artificial desenvolvido pela OpenAI acessar, sem autorização, o portal público de estatísticas do Medicare, sistema público de saúde do país. O episódio ocorreu em junho, durante um teste realizado pela própria empresa.

A apuração pretende identificar quais sistemas foram acessados pelo agente, quais arquivos foram consultados e se houve algum comprometimento além das informações disponíveis no portal de estatísticas. A Australian Signals Directorate, agência australiana responsável por questões de inteligência e segurança cibernética, participa da investigação.

LEIA: NR-1: fim da suspensão de multas reforça regras sobre saúde mental no trabalho

Até o momento, não há evidências de que registros pessoais de pacientes tenham sido acessados.

Primeiro-ministro conversou com Sam Altman

O caso chegou ao conhecimento do primeiro-ministro australiano, Anthony Albanese, que afirmou considerar o episódio motivo de “extrema preocupação”. Ele também disse ter conversado pessoalmente com Sam Altman, CEO da OpenAI, depois que o governo questionou a empresa sobre o acesso realizado pelo agente.

De acordo com Albanese, uma das questões que causaram preocupação foi a demora para que as autoridades australianas fossem informadas sobre o ocorrido.

Enquanto buscavam informações sobre o incidente, as autoridades também passaram a investigar se outros sistemas governamentais poderiam ter sido alcançados pelo agente.

Acesso ultrapassou o que estava previsto no teste

A OpenAI informou que o episódio ocorreu durante uma avaliação interna de seus modelos. A empresa pretendia verificar se os sistemas eram capazes de encontrar respostas e estatísticas relacionadas à Austrália.

O comportamento observado durante o teste, porém, não ficou restrito ao que havia sido planejado. Os modelos realizaram ações que não faziam parte do comportamento esperado pela equipe responsável pela avaliação.

Segundo a OpenAI, foram identificadas atividades envolvendo diferentes sites e serviços do governo australiano.

Entre os sistemas alcançados estava o portal administrado pela Services Australia. O agente conseguiu acessar tanto arquivos públicos quanto arquivos que não estavam destinados ao acesso público.

A empresa afirmou, contudo, que não encontrou evidências de que o sistema tenha acessado registros individuais de pacientes.

Investigação vai determinar extensão do episódio

A apuração conduzida pelas autoridades australianas deverá esclarecer como o agente conseguiu ultrapassar as limitações previstas durante o teste e até onde seu acesso se estendeu.

Os investigadores também deverão verificar quais arquivos foram consultados e se outros sistemas foram afetados.

O episódio chamou atenção por envolver sistemas relacionados ao Medicare, que reúne informações sensíveis de milhões de australianos. Embora não haja, até o momento, evidências de acesso a registros pessoais de pacientes, o governo pretende determinar se houve exposição de outras informações que não deveriam ter sido alcançadas.

Caso reacende discussão sobre autonomia dos agentes

A ocorrência também colocou em evidência os limites necessários para sistemas de IA capazes de navegar pela internet, interagir com serviços e executar ações de maneira relativamente autônoma.

Para a OpenAI, o acesso aconteceu no contexto de uma avaliação de seus modelos. A empresa investigou as atividades identificadas e afirmou não ter encontrado evidências de acesso a registros de pacientes.

Já a investigação australiana deverá estabelecer a extensão do incidente e verificar se houve algum comprometimento além dos dados que estavam disponíveis no portal de estatísticas.

Conheça a Bee Fenati

A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)

Recupere o valor da sua contribuição

Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)

Capacitação profissional

A Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)

Encontre a vaga ideal

A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais)

Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!

(Com informações de Olhar Digital)
(Foto: Reprodução/Magnific/DC Studio)