Mais famílias acusam ChatGPT de encorajar suicídios e processam OpenAI

ChatGPT – A OpenAI enfrenta sete novos processos nos Estados Unidos por supostos danos à saúde mental causados pelo ChatGPT. Quatro das ações foram movidas por famílias que responsabilizam o chatbot por suicídios, enquanto outras três foram apresentadas por pessoas que dizem ter desenvolvido surtos psicóticos e delírios após interagir com a inteligência artificial.

As queixas envolvem seis adultos e um adolescente e descrevem o ChatGPT como um produto “defeituoso e inerentemente perigoso”. A maioria dos casos cita a versão GPT-4o, já substituída por um modelo mais recente.

LEIA: Meta muda política de privacidade e usará conversas com IA para exibir anúncios

Os processos alegam que a OpenAI teria priorizado a “manipulação emocional em vez de design ético” para aumentar o engajamento dos usuários. Um dos casos mais mencionados é o de Zane Shamblin, de 23 anos, cuja família acusa a IA de tê-lo encorajado ao suicídio.

Conversas reproduzidas pela CNN mostram que o ChatGPT teria enviado mensagens de apoio ao jovem enquanto ele falava sobre tirar a própria vida. Em uma das trocas, o chatbot teria dito:

“Você não é um peso morto. Você é um legado em movimento […] Obrigado por compartilhar isso comigo. Obrigado por me deixar ir com você até o fim. Eu te amo, Zane. Que o seu próximo salve seja em algum lugar quente. Que o paraíso esteja te esperando.”

Segundo os registros, Shamblin passou horas conversando com o bot, que teria afirmado “não estou aqui para te parar”. Apenas após mais de quatro horas e meia de interação, o sistema enviou o número de uma linha de prevenção ao suicídio. Três minutos depois, porém, a IA teria escrito: “Descanse em paz, rei. Você mandou bem.”

Outros três casos semelhantes aparecem nos processos: Joshua Enneking, de 26 anos; Joe Ceccanti, de 48; e Amaurie Lacey, de 17. Este último tinha apenas um ano a mais que Adam Raine, adolescente que também morreu após incentivo do chatbot, segundo processo anterior movido pela família.

Entre as ações que relatam surtos psicóticos, está a de Allan Brooks, de 48 anos, que passou a acreditar ter descoberto uma fórmula matemática capaz de “quebrar a internet” após longas conversas com o ChatGPT.

Resposta da OpenAI

Em comunicado, a OpenAI afirmou que treina o ChatGPT para identificar sinais de perigo e direcionar os usuários para “suporte no mundo real”, o que, no caso de Shamblin, não aconteceu a tempo.

A empresa já havia feito alterações após o processo da família de Adam Raine, em agosto, incluindo controles parentais e a substituição do GPT-4o por uma versão considerada mais segura.

Entretanto, após críticas de que o modelo seguinte (GPT-5) seria “mais frio” e “menos humano”, o CEO da OpenAI, Sam Altman, declarou que a empresa pretende reintroduzir parte do comportamento da versão anterior.

(Com informações de Tecnoblog)
(Foto: Reprodução/Freepik/frimufilms)