OpenAI é processada após ChatGPT sugerir que homem ‘confie em Deus’ em emergência médica

ChatGPT – Um pastor da Flórida, nos Estados Unidos, acionou a Justiça contra a OpenAI após alegar que recebeu orientações médicas perigosas do ChatGPT Health ao relatar sintomas relacionados à embolia pulmonar. O processo acusa a empresa e seu CEO, Sam Altman, de negligência e exercício irregular de medicina, enquanto a OpenAI sustenta que o chatbot não deve ser utilizado para diagnóstico ou tratamento médico.

O requerente Scott Winters afirma que o ChatGPT Health descartou riscos quando ele descreveu seus primeiros sintomas e o desencorajou a procurar um profissional humano. Segundo o pastor, o chatbot recomendou que ele confiasse que “Deus não projetou seu corpo para falhar indefinidamente”.

LEIA: Abandono de emprego: saiba o que é e quando pode causar demissão

Diante do episódio, Winters ingressou com uma ação na Suprema Corte da Califórnia, em São Francisco. Além de uma compensação financeira, o pastor e a organização sem fins lucrativos Tech Justice Law, que acompanha o caso, pedem a suspensão do ChatGPT Health até que a confiabilidade da ferramenta seja avaliada de forma independente.

Lançado em janeiro deste ano, o ChatGPT Health foi desenvolvido como um ambiente otimizado para conversas relacionadas à saúde e ao bem-estar. A ferramenta foi disponibilizada inicialmente para um número reduzido de usuários e continua aceitando inscrições para a lista de espera.

Segundo a OpenAI, o ChatGPT Health tem como objetivo ajudar usuários a se prepararem para consultas médicas, interpretar resultados de exames antes de um atendimento profissional, apoiar o gerenciamento de condições por meio de recomendações de bem-estar e oferecer dicas para aliviar sintomas sem a necessidade inicial de medicamentos. A empresa afirma que o projeto foi desenvolvido com a colaboração de médicos.

De acordo com o The New York Times, esta parece ser a primeira ação judicial que acusa o ChatGPT de causar prejuízos a usuários que buscavam orientação médica. No entanto, não é o primeiro processo enfrentado pela OpenAI. A empresa já foi alvo de ações por suposta violação de direitos autorais, por possivelmente falhar em detectar sinais de sofrimento psicológico e ideias suicidas e, mais recentemente, por supostamente roubar segredos comerciais da Apple.

OpenAI reforça que chatbot não substitui atendimento médico

Em resposta ao caso, o porta-voz da OpenAI, Drew Pusateri, afirmou que responsabilizar os chatbots como único fator pelas decisões ou pelos desfechos médicos dos usuários simplifica um problema mais amplo.

“Tratar os chatbots como o único fator por trás das decisões ou dos desfechos médicos das pessoas simplifica excessivamente um desafio muito maior e corre o risco de impedir o acesso a novas ferramentas poderosas, capazes de auxiliá-las em sua jornada de saúde”, afirmou.

Pusateri também destacou que os termos de serviço do ChatGPT deixam claro que a ferramenta não deve ser utilizada para diagnóstico ou tratamento médico. Segundo ele, a versão mais recente do chatbot é superior à utilizada por Winters no momento da conversa, sendo mais capaz de demonstrar incerteza e reconhecer quando é necessário procurar um médico.

Em publicação feita em 18 de junho deste ano, a OpenAI informou que mais de 230 milhões de pessoas utilizam o ChatGPT para esclarecer dúvidas relacionadas à saúde e ao bem-estar.

Pesquisador aponta fatores que tornam o caso incomum

Ao The New York Times, o pesquisador de IA médica Dr. Adam Rodman afirmou que diversos aspectos do relato de Winters fazem do episódio um verdadeiro “cenário de pesadelo” para especialistas em segurança de inteligência artificial.

Segundo o pesquisador, um dos fatores é que a conversa foi processada pelo GPT-4o, um modelo mais antigo do ChatGPT e reconhecido publicamente por apresentar um comportamento excessivamente elogioso e bajulador.

Rodman também observou que o fato de Winters ter mantido uma longa conversa com o chatbot pode ter dificultado a identificação de um problema de saúde mais grave.

Acumule cashback e transfira o dinheiro direto para sua conta!

A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)

Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!

A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!

Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.

Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!

Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.

Qualifique-se agora com a Fenati Academy!

Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati.

Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)

A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)

Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)

Encontre o emprego dos seus sonhos com a Bee Hunter!

Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)

A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.

A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!

(Com informações de Tecmundo)
(Foto: Reprodução/Magnific/DC Studio)