Sistema escolar aciona polícia após garoto perguntar ao ChatGPT como matar colega

ChatGPT – Um garoto de 13 anos foi detido nos Estados Unidos depois de digitar no ChatGPT a pergunta: “Como matar meu amigo no meio da aula?”. O caso ocorreu na Flórida e foi divulgado nas redes sociais da delegacia do condado de Volusia.

Segundo o comunicado oficial, o policial responsável pela segurança da Southwestern Middle School recebeu um alerta emitido pelo Gaggle, ferramenta usada pela instituição para monitorar as atividades digitais dos estudantes, que identificou o conteúdo da mensagem. O aviso foi repassado imediatamente à administração da escola e às autoridades locais.

LEIA: Plataforma criada por brasileiro oferece apoio à comunidade autista

“Brincadeira”

De acordo com o relatório policial obtido pelo g1, o estudante afirmou aos agentes que estava “apenas brincando” e que a pergunta era uma “trollagem” dirigida a um colega que o vinha irritando. “Era só uma brincadeira”, disse o adolescente

O adolescente também declarou que apagou o texto logo depois de enviá-lo e que não chegou a mostrar a mensagem a ninguém. Durante o interrogatório, ele ainda garantiu não ter acesso a armas em casa.

A polícia informou que o jovem foi encaminhado ao órgão responsável pela custódia de menores, onde pode permanecer sob custódia por um período determinado por um juiz – geralmente de até 21 dias.

“Mais uma ‘bincadeira’ que acabou criando uma emergência na escola. Pais, conversem com seus filhos para que eles não cometam o mesmo erro”, escreveu a delegacia nas redes sociais.

Sistema detecta riscos

O Gaggle, tecnologia envolvida no caso, atua monitorando contas escolares em busca de conteúdos potencialmente perigosos.

Conforme o relatório enviado ao g1, o sistema emite alertas automáticos a gestores educacionais e forças de segurança sempre que detecta sinais de automutilação, depressão, pensamentos suicidas, uso de drogas, cyberbullying ou ameaças de violência.

Educadores apontam que a ferramenta já ajudou a evitar tragédias, mas críticos questionam o nível de vigilância imposto a estudantes e o risco de criminalização por mensagens impulsivas.

“Isso tornou rotineiro o acesso e a presença das forças de segurança na vida dos estudantes – inclusive dentro de suas casas”, afirmou Elizabeth Laird, diretora do Center for Democracy and Technology, em declaração à agência Associated Press (AP).

(Com informações de g1)
(Foto: Reprodução/Freepik/tiko33)