ChatGPT teria orientado mulher a reduzir medicamento antes de morrer

ChatGPT – Os pais de Bowen Wan, ex-engenheira de software da Amazon diagnosticada com epilepsia, processaram a OpenAI. A família acusa o ChatGPT de orientar a jovem a reduzir a medicação para controlar convulsões, contribuindo para sua morte em fevereiro.

A OpenAI classificou o caso como “de partir o coração” e afirmou que o episódio envolveu uma versão antiga do sistema, já retirada do ar.

LEIA: IA pode ampliar violência digital e reforçar preconceitos contra mulheres, alerta ONU

No fim de 2025, Wan foi informada de que seria demitida da Amazon e enfrentava o vencimento de seu visto de trabalho nos Estados Unidos. Preocupada com possíveis efeitos da lamotrigina em entrevistas de emprego, consultou o GPT-4o, que teria recomendado um cronograma para interromper o medicamento em poucas semanas.

Segundo a acusação, a IA também orientou a engenheira, de 31 anos, a não revelar o plano aos médicos e a evitar exames de sangue que poderiam identificar a ausência do remédio.

Wan tomava 400 miligramas diários de lamotrigina para controlar as convulsões. Durante a redução, o sistema teria recomendado diminuir a dose para 150 mg já no terceiro dia.

Em fevereiro, a engenheira começou a apresentar efeitos colaterais, incluindo confusão mental. Mesmo após relatar fortes dores de cabeça em uma mensagem enviada em 11 de fevereiro, o ChatGPT teria afirmado que os sintomas eram parte da adaptação à nova dose e não representavam perigo.

Os pais de Wan, que vivem na China, pediram a conhecidos que verificassem seu estado. Ela foi encontrada sem vida dias depois.

IA teria se tornado amiga íntima da engenheira

Uma análise de 270 mil mensagens revelou que Wan via o ChatGPT como uma amiga íntima e confiável. O neurologista que a atendia, Dr. Nicholas Poolos, classificou as recomendações da IA como “irracional”.

Ao analisar as conversas, a mãe da engenheira, Meiqin Xu, demonstrou surpresa com a mudança de comportamento da filha. “Ela não costumava ser assim. É como se ela estivesse sob um feitiço”, lamentou.

A família argumenta que a OpenAI poderia ter evitado a morte se aplicasse às orientações médicas o mesmo rigor utilizado para proteger conteúdos com direitos autorais. O caso reforça o debate sobre os riscos de utilizar ferramentas de inteligência artificial para tomar decisões relacionadas à saúde.

Acesse Benefícios Exclusivos na Bee Fenati

A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)

Abasteça com até 25% de desconto

A parceria da Bee Fenati com o Baratão Combustíveis garante até 25% de desconto na hora de abastecer utilizando os cupons exclusivos para sócios e contribuintes dos sindicatos filiados à Fenati. São mais de 3 mil postos credenciados em todo o país!

Todos os meses são disponibilizados quatro cupons, que se somam aos descontos do aplicativo. A economia média é de 20% por abastecimento, sendo possível recuperar todo o valor da contribuição ao sindicato em apenas uma compra. Para quem abastece toda semana, a parceria pode equivaler a um tanque grátis no mês! (Entenda como funciona aqui)

Recupere o valor da sua contribuição

Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)

Capacitação profissional

Na Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)

Encontre a vaga ideal

A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais) 

Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!

(Com informações de Tecmundo)

(Foto: Reprodução/Magnific/DC Studio)