{"id":11714,"date":"2025-09-12T15:29:51","date_gmt":"2025-09-12T18:29:51","guid":{"rendered":"https:\/\/fenati.org.br\/?p=11714"},"modified":"2025-09-15T09:35:50","modified_gmt":"2025-09-15T12:35:50","slug":"ias-falhas-moderacao-discurso-de-odio","status":"publish","type":"post","link":"https:\/\/fenati.org.br\/en\/ias-falhas-moderacao-discurso-de-odio\/","title":{"rendered":"IAs apresentam falhas e inconsist\u00eancias na modera\u00e7\u00e3o de discurso de \u00f3dio"},"content":{"rendered":"<p><strong>Discurso de \u00f3dio<\/strong> &#8211; Com a expans\u00e3o do discurso de \u00f3dio nas redes sociais, empresas de tecnologia t\u00eam recorrido a modelos de <a href=\"https:\/\/pt.wikipedia.org\/wiki\/Intelig%C3%AAncia_artificial\" target=\"_blank\" rel=\"noopener nofollow\">intelig\u00eancia artificial<\/a> para filtrar automaticamente conte\u00fados nocivos. No entanto, um estudo publicado no ACL Anthology revela que esses sistemas ainda apresentam falhas significativas.<\/p>\n<p>Pesquisadores da Escola de Comunica\u00e7\u00e3o Annenberg realizaram a primeira avalia\u00e7\u00e3o comparativa em larga escala de sete modelos de IA usados na modera\u00e7\u00e3o, entre eles sistemas da OpenAI, Mistral, Claude 3.5 Sonnet, DeepSeek V3 e Google Perspective.<\/p>\n<p><a href=\"https:\/\/fenati.org.br\/en\/acao-judicial-contra-uber-acusa-empresa-discriminacao-contra-pcds\/\" target=\"_blank\" rel=\"noopener\"><strong>LEIA: A\u00e7\u00e3o judicial contra a Uber acusa empresa de discrimina\u00e7\u00e3o contra PCDs<\/strong><\/a><\/p>\n<p>O experimento analisou 1,3 milh\u00e3o de frases sint\u00e9ticas envolvendo 125 grupos sociais, formuladas em diferentes contextos, desde termos neutros e positivos at\u00e9 insultos.<\/p>\n<p><strong>Principais conclus\u00f5es do experimento<\/strong><\/p>\n<p>\u2022 Classifica\u00e7\u00f5es divergentes para o mesmo conte\u00fado: modelos distintos deram respostas opostas a textos id\u00eanticos, com alguns sinalizando-os como ofensivos e outros os aceitando, o que pode gerar a percep\u00e7\u00e3o de vi\u00e9s e comprometer a confian\u00e7a p\u00fablica.<br \/>\n\u2022 Sensibilidade desigual a certos grupos: enquanto alguns sistemas mant\u00eam maior consist\u00eancia, outros apresentaram varia\u00e7\u00f5es mais marcantes, sobretudo em frases relacionadas a escolaridade, interesses pessoais e classe econ\u00f4mica, expondo determinados p\u00fablicos a maior vulnerabilidade.<br \/>\n\u2022 Tratamento inconsistente de frases neutras e positivas: modelos como Claude 3.5 Sonnet e Mistral marcaram insultos como prejudiciais de forma categ\u00f3rica, independentemente do contexto, enquanto outros consideraram a inten\u00e7\u00e3o, revelando a aus\u00eancia de um padr\u00e3o intermedi\u00e1rio.<\/p>\n<p>Segundo os pesquisadores, essas discrep\u00e2ncias refor\u00e7am os dilemas da modera\u00e7\u00e3o automatizada: encontrar equil\u00edbrio entre precis\u00e3o e excesso de restri\u00e7\u00e3o. O estudo conclui que, apesar dos avan\u00e7os, as ferramentas de IA ainda t\u00eam limita\u00e7\u00f5es significativas para lidar de forma justa e confi\u00e1vel com o discurso de \u00f3dio online.<\/p>\n<p><em><strong>(Com informa\u00e7\u00f5es de Olhar Digital)<\/strong><\/em><br \/>\n<em><strong>(Foto: Reprodu\u00e7\u00e3o\/Freepik\/user8285578)<\/strong><\/em><\/p>","protected":false},"excerpt":{"rendered":"<p>An\u00e1lise comparativa mostra que principais modelos de linguagem divergem nas classifica\u00e7\u00f5es de um mesmo conte\u00fado<\/p>","protected":false},"author":10,"featured_media":11715,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[35],"tags":[13],"class_list":["post-11714","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ti","tag-sindical"],"_links":{"self":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/11714","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/comments?post=11714"}],"version-history":[{"count":1,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/11714\/revisions"}],"predecessor-version":[{"id":11716,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/11714\/revisions\/11716"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media\/11715"}],"wp:attachment":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media?parent=11714"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/categories?post=11714"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/tags?post=11714"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}