ChatGPT poderá encerrar conversas que indiquem risco de violência

ChatGPT – A OpenAI anunciou novas restrições para respostas do ChatGPT relacionadas a armas de fogo e violência. As mudanças incluem limites adicionais para adolescentes, restrições a informações sobre ataques em massa e mecanismos para identificar conversas que possam indicar riscos reais.

As medidas foram apresentadas na sexta-feira (30), como parte de uma revisão dos procedimentos de segurança da empresa. As regras abrangem todos os usuários, mas estabelecem proteções específicas para menores de 18 anos.

LEIA: Salários de especialistas em IA avançam, mas ainda ficam atrás de outras áreas de TI

A OpenAI também anunciou a criação de um Relatório de Segurança da Comunidade, que reunirá dados sobre a identificação de ameaças e a eficácia das medidas preventivas. A primeira edição está prevista para o início de 2027, com informações referentes ao segundo semestre de 2026.

A empresa informou ainda que realizou mais de 200 comunicações às autoridades policiais durante o terceiro trimestre de 2026, envolvendo situações consideradas ameaças potencialmente graves.

Restrições também atingem adultos

O ChatGPT passará a oferecer respostas menos detalhadas sobre ataques em massa já ocorridos e seus responsáveis. Serão limitadas informações sobre armas e equipamentos utilizados, formas de obtenção e detalhes que possam facilitar a reprodução de atos violentos.

Apesar disso, os usuários ainda poderão buscar explicações sobre os acontecimentos, os impactos para vítimas e comunidades e os sinais de prevenção. A restrição será direcionada principalmente a informações operacionais que possam contribuir para novos ataques.

Outra mudança permitirá que o ChatGPT encerre automaticamente conversas quando identificar sinais de obsessão por violência ou intenção de ferir gravemente alguém. Caso ocorram vários encerramentos pelo mesmo motivo, a conta poderá ser temporariamente suspensa.

Adolescentes terão proteções adicionais

Para menores de 18 anos, as limitações serão mais abrangentes. Mesmo perguntas aparentemente inofensivas sobre armas poderão ter respostas restringidas quando envolverem informações práticas que possam ser utilizadas indevidamente.

As regras também limitam conteúdos sobre armamentos e sistemas de segurança que possam facilitar ações violentas. Entretanto, adolescentes continuarão podendo buscar informações sobre prevenção, apoio e maneiras de se conectar com um adulto de confiança.

Para identificar menores, a OpenAI utiliza um sistema de previsão de idade baseado em diferentes sinais, incluindo padrões de comportamento na plataforma. Adultos classificados incorretamente poderão confirmar a idade por meio da Persona, empresa parceira responsável pela verificação.

Controles parentais serão ampliados

A empresa também pretende ampliar as notificações aos responsáveis por adolescentes. Em julho de 2026, os alertas já haviam sido estendidos para situações em que contas de menores fossem desativadas por violar as políticas sobre violência.

Agora, os responsáveis também poderão receber notificações quando uma conta for temporariamente suspensa após conversas repetidas sobre o tema.

As novas proteções começarão a ser implementadas nas próximas semanas. Segundo a OpenAI, os sistemas continuarão sendo aprimorados para identificar sinais de alerta e determinar quando limitar respostas ou interromper conversas. A empresa ressalta que a prevenção da violência também depende da atuação de familiares, profissionais e autoridades.

Acesse Benefícios Exclusivos na Bee Fenati

A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)

Abasteça com até 25% de desconto

A parceria da Bee Fenati com o Baratão Combustíveis garante até 25% de desconto na hora de abastecer utilizando os cupons exclusivos para sócios e contribuintes dos sindicatos filiados à Fenati. São mais de 3 mil postos credenciados em todo o país!

Todos os meses são disponibilizados quatro cupons, que se somam aos descontos do aplicativo. A economia média é de 20% por abastecimento, sendo possível recuperar todo o valor da contribuição ao sindicato em apenas uma compra. Para quem abastece toda semana, a parceria pode equivaler a um tanque grátis no mês! (Entenda como funciona aqui)

Recupere o valor da sua contribuição

Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)

Capacitação profissional

Na Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)

Encontre a vaga ideal

A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais) 

Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!

(Com informações de Olhar Digital)

(Foto: Reprodução/Magnific/val-suprunovich)