{"id":17159,"date":"2026-04-06T15:26:37","date_gmt":"2026-04-06T18:26:37","guid":{"rendered":"https:\/\/fenati.org.br\/?p=17159"},"modified":"2026-04-06T17:26:36","modified_gmt":"2026-04-06T20:26:36","slug":"ia-ferramenta-usuarios-com-tendencias-violentas","status":"publish","type":"post","link":"https:\/\/fenati.org.br\/en\/ia-ferramenta-usuarios-com-tendencias-violentas\/","title":{"rendered":"IA testa ferramenta contra usu\u00e1rios com tend\u00eancias violentas"},"content":{"rendered":"

Usu\u00e1rios com tend\u00eancias violentas –<\/strong> Uma nova ferramenta em desenvolvimento na Nova Zel\u00e2ndia busca enfrentar casos de viol\u00eancia extrema em plataformas de intelig\u00eancia artificial como ChatGPT e sistemas da Anthropic<\/a>. A proposta prev\u00ea identificar usu\u00e1rios com comportamentos de risco e redirecion\u00e1-los para conversas com humanos e bots especializados, com foco em reduzir a radicaliza\u00e7\u00e3o.<\/p>\n

Segundo informa\u00e7\u00f5es divulgadas pela Reuters, a iniciativa surge em meio a preocupa\u00e7\u00f5es crescentes com a seguran\u00e7a no uso dessas tecnologias. O movimento acompanha um aumento no n\u00famero de processos judiciais que acusam empresas de IA de falharem na preven\u00e7\u00e3o de pr\u00e1ticas violentas.<\/p>\n

LEIA: Treinamentos em IA generativa avan\u00e7am 617% no pa\u00eds<\/strong><\/a><\/p>\n

A discuss\u00e3o ganhou for\u00e7a ap\u00f3s um caso envolvendo o Canad\u00e1. Meses antes, o governo do pa\u00eds havia feito uma amea\u00e7a depois que a OpenAI revelou que o autor de um ataque a uma escola, que resultou em oito mortes, havia sido banido do ChatGPT por \u201ccomportamento violento\u201d, sem que as autoridades fossem notificadas.
\nA nova proposta envolve a atua\u00e7\u00e3o da ThroughLine, uma startup que j\u00e1 presta servi\u00e7os para empresas como OpenAI, Anthropic e Google no redirecionamento de usu\u00e1rios para suporte em situa\u00e7\u00f5es de crise. Agora, a companhia avalia expandir sua atua\u00e7\u00e3o para incluir a preven\u00e7\u00e3o do extremismo violento.<\/p>\n

De acordo com o fundador da empresa, Elliot Taylor, a ThroughLine est\u00e1 em di\u00e1logo com o Christchurch Call, iniciativa criada ap\u00f3s o ataque terrorista de 2019 na Nova Zel\u00e2ndia com o objetivo de combater o \u00f3dio online. A parceria pode incluir orienta\u00e7\u00e3o do grupo antiextremismo no desenvolvimento de um chatbot voltado \u00e0 interven\u00e7\u00e3o em casos cr\u00edticos.<\/p>\n

“\u00c9 algo para o qual gostar\u00edamos de avan\u00e7ar e fazer um trabalho melhor de cobertura e, em seguida, ser capazes de apoiar melhor as plataformas”, destaca Taylor em uma entrevista, acrescentando que nenhum prazo foi estabelecido.<\/p>\n

A proposta ainda est\u00e1 em fase inicial, mas indica um movimento mais amplo das empresas de tecnologia para lidar com os desafios de seguran\u00e7a e responsabilidade no uso de sistemas de intelig\u00eancia artificial.<\/p>\n

(Com informa\u00e7\u00f5es de TI Inside)<\/strong><\/em>
\n(Foto: Reprodu\u00e7\u00e3o\/Freepik\/rawpixel.com)<\/strong><\/em><\/p>","protected":false},"excerpt":{"rendered":"

Iniciativa envolve empresas como OpenAI e Google em resposta a comportamentos de risco<\/p>","protected":false},"author":6,"featured_media":17162,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[42],"tags":[13],"class_list":["post-17159","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-sindical"],"_links":{"self":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/17159","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/comments?post=17159"}],"version-history":[{"count":1,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/17159\/revisions"}],"predecessor-version":[{"id":17166,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/17159\/revisions\/17166"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media\/17162"}],"wp:attachment":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media?parent=17159"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/categories?post=17159"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/tags?post=17159"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}