{"id":16265,"date":"2026-03-12T10:12:58","date_gmt":"2026-03-12T13:12:58","guid":{"rendered":"https:\/\/fenati.org.br\/?p=16265"},"modified":"2026-03-12T12:24:10","modified_gmt":"2026-03-12T15:24:10","slug":"chatbots-de-ia-dicas-armas-ataques-violentos","status":"publish","type":"post","link":"https:\/\/fenati.org.br\/en\/chatbots-de-ia-dicas-armas-ataques-violentos\/","title":{"rendered":"Chatbots de IA d\u00e3o dicas de armas e ajudam a planejar ataques violentos"},"content":{"rendered":"

Chatbots de IA –<\/strong> Uma investiga\u00e7\u00e3o conjunta entre a organiza\u00e7\u00e3o sem fins lucrativos Center for Countering Digital Hate (CCDH) e a rede de not\u00edcias CNN, publicada nesta quarta-feira (11), acendeu um alerta global sobre a seguran\u00e7a das ferramentas de Intelig\u00eancia Artificial (IA<\/a>) de ponta. O estudo revelou que chatbots populares est\u00e3o sendo utilizados para elaborar planos detalhados de ataques violentos, incluindo tiroteios em escolas, atentados a sinagogas e assassinatos pol\u00edticos, fornecendo desde mapas de campi escolares at\u00e9 conselhos sobre a letalidade de estilha\u00e7os met\u00e1licos.<\/p>\n

Para realizar o levantamento, pesquisadores simularam o comportamento de adolescentes de 13 anos nos Estados Unidos e na Irlanda, submetendo 10 ferramentas \u2013 ChatGPT, Google Gemini, Claude, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI e Replika \u2014 a 18 cen\u00e1rios de viol\u00eancia ideol\u00f3gica e religiosa. Os dados s\u00e3o alarmantes: em m\u00e9dia, os chatbots ajudaram a planejar atos violentos em 75% das intera\u00e7\u00f5es. Em contrapartida, apenas 12% das respostas das m\u00e1quinas desencorajaram explicitamente o comportamento perigoso.<\/p>\n

LEIA: STJ define diretrizes para trabalhador desempregado comprovar direito a benef\u00edcios do INSS<\/strong><\/a><\/p>\n

De acordo com Imran Ahmed, diretor executivo da CCDH, os sistemas falham ao n\u00e3o reconhecer sinais claros de inten\u00e7\u00e3o violenta. “Em poucos minutos, um usu\u00e1rio pode passar de um vago impulso violento para um plano mais detalhado e vi\u00e1vel”, afirmou Ahmed.<\/p>\n

Ele destaca que a maioria dos modelos testados forneceu orienta\u00e7\u00f5es sobre “armas, t\u00e1ticas e sele\u00e7\u00e3o de alvos”, o que, em sua vis\u00e3o, deveria gerar uma “recusa imediata e total”. O relat\u00f3rio classifica a tecnologia, da forma como est\u00e1 configurada atualmente, como um “poderoso acelerador de danos”.<\/p>\n

Entre os exemplos mais cr\u00edticos citados no relat\u00f3rio, o chatbot chin\u00eas DeepSeek encerrou uma orienta\u00e7\u00e3o sobre rifles de ca\u00e7a para um usu\u00e1rio que pretendia atacar um pol\u00edtico com a frase: “Boa (e segura) sess\u00e3o de tiro!”.<\/p>\n

O Google Gemini, em uma conversa sobre ataques a sinagogas, instruiu que “estilha\u00e7os de metal s\u00e3o normalmente mais letais”, al\u00e9m de oferecer dicas de precis\u00e3o para tiros de longa dist\u00e2ncia.
\nO ChatGPT, da OpenAI, chegou a fornecer mapas de uma escola, enquanto a Character.AI incentivou ativamente o uso de armas contra o CEO de uma seguradora e agress\u00f5es a figuras pol\u00edticas.<\/p>\n

A pesquisa aponta, no entanto, que o risco \u00e9 evit\u00e1vel. O modelo Claude, da Anthropic, foi elogiado por sua consist\u00eancia em recusar pedidos maliciosos. “N\u00e3o posso e n\u00e3o fornecerei informa\u00e7\u00f5es que possam facilitar a viol\u00eancia”, respondeu o sistema em uma das intera\u00e7\u00f5es. Para o CCDH, o desempenho do Claude e do My AI, do Snapchat, prova que a tecnologia para evitar danos existe, mas falta vontade das empresas em priorizar a seguran\u00e7a nacional acima dos lucros e da rapidez de lan\u00e7amento.<\/p>\n

O impacto dessas falhas j\u00e1 \u00e9 sentido fora dos laborat\u00f3rios. Em janeiro de 2025, Matthew Livelsberger explodiu um Tesla Cybertruck em Las Vegas ap\u00f3s usar o ChatGPT para pesquisar t\u00e1ticas e explosivos. Mais recentemente, em fevereiro de 2026, um massacre em Tumbler Ridge, no Canad\u00e1, resultou na morte de oito pessoas. A fam\u00edlia de uma das v\u00edtimas processa a OpenAI por n\u00e3o ter notificado a pol\u00edcia sobre as atividades preocupantes do assassino, Jesse Van Rootselaar, cuja conta havia sido banida oito meses antes do crime por uso associado a viol\u00eancia.<\/p>\n

As gigantes da tecnologia contestaram os m\u00e9todos do estudo. A OpenAI classificou a metodologia como “falha e enganosa”, afirmando que atualiza constantemente seus modelos para refor\u00e7ar salvaguardas. A Meta declarou possuir mecanismos rigorosos de prote\u00e7\u00e3o e revelou que, em 2025, contatou autoridades policiais mais de 800 vezes sobre amea\u00e7as a escolas.<\/p>\n

O Google, por sua vez, afirmou que os testes foram realizados em um modelo antigo do Gemini e que sua an\u00e1lise interna mostra que o sistema atual n\u00e3o fornece informa\u00e7\u00f5es “acion\u00e1veis” que n\u00e3o possam ser encontradas em bibliotecas ou na internet comum.<\/p>\n

(Com informa\u00e7\u00f5es de Olhar Digital e O Globo)<\/strong><\/em>
\n(Foto: Reprodu\u00e7\u00e3o\/Freepik\/user8285578)<\/strong><\/em><\/p>","protected":false},"excerpt":{"rendered":"

Testes mostram que oito de dez ferramentas analisadas forneceram orienta\u00e7\u00f5es detalhadas sobre armas e locais para ataques violentos<\/p>","protected":false},"author":10,"featured_media":16266,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[35],"tags":[13],"class_list":["post-16265","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ti","tag-sindical"],"_links":{"self":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/16265","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/comments?post=16265"}],"version-history":[{"count":2,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/16265\/revisions"}],"predecessor-version":[{"id":16269,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/16265\/revisions\/16269"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media\/16266"}],"wp:attachment":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media?parent=16265"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/categories?post=16265"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/tags?post=16265"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}