{"id":16317,"date":"2026-03-13T09:42:07","date_gmt":"2026-03-13T12:42:07","guid":{"rendered":"https:\/\/fenati.org.br\/?p=16317"},"modified":"2026-03-13T11:24:24","modified_gmt":"2026-03-13T14:24:24","slug":"alucinacoes-de-ias-limites-chatbots-construidos","status":"publish","type":"post","link":"https:\/\/fenati.org.br\/en\/alucinacoes-de-ias-limites-chatbots-construidos\/","title":{"rendered":"Alucina\u00e7\u00f5es de IAs revelam limites de como chatbots s\u00e3o constru\u00eddos"},"content":{"rendered":"

Alucina\u00e7\u00f5es de IAs\u00a0 –<\/strong> Com cerca de 1,8 bilh\u00e3o de pessoas utilizando sistemas de Intelig\u00eancia Artificial<\/a> em 2025, o que equivale a um volume di\u00e1rio entre 550 e 600 milh\u00f5es de usu\u00e1rios, a onipresen\u00e7a de ferramentas como ChatGPT, Claude e Gemini consolidou um debate urgente: a confiabilidade dos dados fornecidos por essas plataformas. No centro da discuss\u00e3o est\u00e3o as “alucina\u00e7\u00f5es”, fen\u00f4meno em que a IA apresenta informa\u00e7\u00f5es factualmente erradas com um tom de extrema seguran\u00e7a.<\/p>\n

Estudos recentes indicam que tais falhas n\u00e3o devem ser encaradas apenas como um “bug” t\u00e9cnico, mas como uma caracter\u00edstica inerente \u00e0 arquitetura dos grandes modelos de linguagem (LLMs).<\/p>\n

LEIA: Ataque usa curr\u00edculo falso para desativar defesa de sistemas de empresas<\/strong><\/a><\/p>\n

As alucina\u00e7\u00f5es s\u00e3o declara\u00e7\u00f5es constru\u00eddas de forma gramaticalmente correta e convincente, mas que carecem de base factual. Pesquisadores ilustram o problema com exemplos cotidianos: desde a cria\u00e7\u00e3o de t\u00edtulos inexistentes para teses acad\u00eamicas at\u00e9 a atribui\u00e7\u00e3o de m\u00faltiplas datas de nascimento err\u00f4neas para uma mesma pessoa. O agravante \u00e9 a convic\u00e7\u00e3o com que o sistema opera, mesmo quando a resposta \u00e9 uma fabrica\u00e7\u00e3o completa.<\/p>\n

O incentivo ao “palpite”<\/strong><\/p>\n

Por que a IA insiste em responder, mesmo sem saber? A resposta reside, em parte, nos crit\u00e9rios de avalia\u00e7\u00e3o desses modelos. Atualmente, o desempenho \u00e9 medido majoritariamente pela precis\u00e3o, a taxa de acertos.<\/p>\n

Nesse formato, o sistema enfrenta um dilema: admitir desconhecimento ou arriscar um palpite. Como dizer “n\u00e3o sei” \u00e9 computado como erro, o modelo \u00e9 treinado estatisticamente para arriscar. Em grandes baterias de testes, a IA que “chuta” tende a obter pontua\u00e7\u00f5es superiores \u00e0quela que opta pela cautela, consolidando um comportamento de confian\u00e7a excessiva que mascara a ignor\u00e2ncia factual.<\/p>\n

A limita\u00e7\u00e3o do “prever a pr\u00f3xima palavra”<\/strong><\/p>\n

A raiz t\u00e9cnica do problema est\u00e1 na ess\u00eancia dos LLMs: eles s\u00e3o projetados para prever a pr\u00f3xima palavra em uma sequ\u00eancia, baseando-se em padr\u00f5es estat\u00edsticos extra\u00eddos de volumes massivos de documentos.<\/p>\n

Nesse treinamento, o modelo n\u00e3o diferencia, nativamente, o que \u00e9 fato do que \u00e9 fic\u00e7\u00e3o; ele aprende apenas o que parece estatisticamente plaus\u00edvel. Embora esse m\u00e9todo seja excelente para estrutura, gram\u00e1tica e ortografia, ele falha ao lidar com dados espec\u00edficos, como n\u00fameros, datas ou eventos raros, onde o padr\u00e3o estat\u00edstico n\u00e3o \u00e9 suficiente para garantir a verdade.<\/p>\n

Embora o senso comum sugira que aumentar o poder computacional e o volume de dados eliminaria o problema, a realidade \u00e9 mais complexa. O estudo aponta que, embora modelos maiores reduzam a frequ\u00eancia de equ\u00edvocos, eles nunca atingir\u00e3o 100% de precis\u00e3o. A natureza amb\u00edgua da linguagem humana e a necessidade de racioc\u00ednio contextual tornam a perfei\u00e7\u00e3o inalcan\u00e7\u00e1vel apenas pelo aumento de escala.<\/p>\n

Caminhos para uma IA mais honesta<\/strong><\/p>\n

Para contornar o problema, pesquisadores prop\u00f5em uma mudan\u00e7a de paradigma: alterar a forma como avaliamos a IA. Em vez de valorizar apenas o acerto, os sistemas de teste deveriam penalizar erros graves e recompensar a capacidade da m\u00e1quina de reconhecer e declarar sua pr\u00f3pria incerteza, em uma l\u00f3gica similar \u00e0 aplicada em provas acad\u00eamicas humanas.<\/p>\n

O futuro da confiabilidade na IA, portanto, pode n\u00e3o residir em modelos cada vez maiores, mas em sistemas mais “calibrados”. O pr\u00f3ximo grande salto tecnol\u00f3gico poder\u00e1 ser, curiosamente, ensinar \u00e0 intelig\u00eancia artificial a habilidade de admitir: “n\u00e3o sei”.<\/p>\n

(Com informa\u00e7\u00f5es de Gizmodo)<\/strong><\/em>
\n(Foto: Reprodu\u00e7\u00e3o\/Freepik\/plugstudio666)<\/strong><\/em><\/p>","protected":false},"excerpt":{"rendered":"

Respostas incorretas de chatbots n\u00e3o s\u00e3o falhas isoladas, mas reflexo de um sistema treinado para priorizar a probabilidade em vez da veracidade<\/p>","protected":false},"author":10,"featured_media":16320,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[35],"tags":[13],"class_list":["post-16317","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ti","tag-sindical"],"_links":{"self":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/16317","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/comments?post=16317"}],"version-history":[{"count":2,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/16317\/revisions"}],"predecessor-version":[{"id":16322,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/16317\/revisions\/16322"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media\/16320"}],"wp:attachment":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media?parent=16317"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/categories?post=16317"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/tags?post=16317"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}