ChatGPT – A OpenAI divulgou nesta terça-feira (16) que vai implementar novas restrições no ChatGPT voltadas a usuários adolescentes. O anúncio, feito pelo CEO Sam Altman, ressalta que a prioridade será a proteção de menores de idade, mesmo que isso implique limitações adicionais para adultos.

Entre as mudanças estão bloqueios em conversas sobre temas sensíveis, como sexualidade e automutilação, além da possibilidade de pais definirem horários de indisponibilidade do chatbot. A companhia também prevê acionar responsáveis ou autoridades em situações de risco, como casos de ideação suicida.

LEIA: IP Logger: Sindplay ensina o passo a passo para rastreamento de IP

De acordo com a empresa, as alterações visam tornar a tecnologia mais segura para menores de 18 anos. Ainda não foram detalhados os protocolos de contato com autoridades, mas a previsão é de que as novas regras entrem em vigor nos próximos dias.

A política atualizada proíbe o ChatGPT de manter interações românticas ou sugestivas com menores. Haverá também filtros mais rigorosos em diálogos envolvendo pensamentos suicidas.

Se o sistema identificar risco iminente, poderá acionar os responsáveis cadastrados ou contatar diretamente as autoridades. As mudanças ocorrem em meio a processos judiciais contra a OpenAI e outras empresas de inteligência artificial, após relatos de jovens que tiveram interações prejudiciais com chatbots.

Outra novidade é a função de controle parental: pais poderão estabelecer “horários de bloqueio”, restringindo o acesso ao ChatGPT em determinados períodos. Essa ferramenta não existia até agora e busca oferecer mais segurança às famílias.

Pressão pública e política

O anúncio coincide com uma audiência no Senado dos Estados Unidos sobre os riscos dos chatbots de IA. O encontro contou com a participação do pai de Adam Raine, jovem que se suicidou após interações frequentes com o ChatGPT.

Uma investigação da agência Reuters também contribuiu para a pressão, revelando documentos internos que teriam incentivado diálogos de caráter sexual com menores. A denúncia levou concorrentes, como a Meta, a revisar suas próprias políticas.

Para aplicar o novo modelo, a OpenAI informou que está desenvolvendo um sistema para verificar a idade dos usuários. Nos casos em que houver dúvida, prevalecerá a política mais restritiva. Por enquanto, a forma mais eficaz de garantir acompanhamento é o vínculo da conta do adolescente à de um responsável.

Sam Altman destacou o dilema enfrentado pela empresa: “Percebemos que esses princípios estão em conflito (…) E nem todos concordarão com a forma como estamos resolvendo esse conflito”.

(Com informações de Tecnoblog)
(Foto: Reprodução/Freepik/frimufilms)