Ferramentas de IA contaminam produção científica com citações inexistentes

Ferramentas de IA – O uso crescente de inteligência artificial na produção de artigos científicos passou a acender um alerta entre pesquisadores e editoras acadêmicas. Dois estudos internacionais recentes indicam que ferramentas de IA generativa, como chatbots de linguagem, estão criando referências inexistentes que acabam incluídas em publicações acadêmicas sem serem detectadas por autores, revisores ou periódicos.

Um dos episódios destacados envolve Rafael Topaz, professor associado da Universidade de Columbia, nos Estados Unidos. O pesquisador afirmou ter identificado que uma ferramenta de IA inseriu silenciosamente uma referência falsa em um manuscrito científico. Segundo Topaz, o sistema havia sido utilizado apenas para correções gramaticais.

“Sou pesquisador de IA. Sei o que são alucinações. Se isso está acontecendo comigo, o que acontece com outras pessoas?”, declarou.

LEIA: Explosão de custos com IA fazem big techs reverem políticas de uso

O caso é citado em um estudo realizado por pesquisadores da Universidade Cornell, da UCLA e da UC Berkeley. A equipe analisou 111 milhões de citações presentes em 2,5 milhões de artigos publicados entre 2020 e 2025 nas plataformas arXiv, bioRxiv, SSRN e PubMed Central. O levantamento encontrou ao menos 146.932 referências fabricadas por inteligência artificial apenas em 2025.

Para chegar aos resultados, os cientistas rastrearam títulos de trabalhos que não apareciam em bases acadêmicas como Google Scholar, Semantic Scholar e OpenAlex. A investigação mostrou que o avanço das referências falsas ganhou força a partir de meados de 2024, cerca de um ano e meio após o lançamento público do ChatGPT. Nesse período, ferramentas de IA passaram a ser usadas também para sugerir bibliografias e gerar citações automáticas.

Os dados apontam que as taxas de referências inventadas chegaram a quase 2% dos artigos publicados no SSRN em agosto de 2025. Já no PubMed Central, principal base biomédica analisada pelos pesquisadores, foram estimadas mais de 8 mil citações falsas em apenas um mês. O estudo também destaca que muitas dessas referências passaram pelos processos de revisão e permaneceram nas versões finais dos artigos científicos.

Segundo os autores, o problema não está restrito a pesquisas fraudulentas. Em diversos casos, as referências falsas apareceram em estudos legítimos, indicando que pesquisadores estariam utilizando sugestões de ferramentas de IA sem verificar manualmente as fontes originais. O fenômeno foi identificado com maior frequência entre autores menos experientes e equipes reduzidas de pesquisa.

Outro estudo, publicado na revista científica The Lancet, chegou a conclusões semelhantes ao avaliar artigos biomédicos publicados entre 2023 e o início de 2026. A auditoria identificou mais de 4 mil referências falsas distribuídas em 2.810 artigos revisados por pares. Em 2023, um em cada 2.828 trabalhos continha ao menos uma citação inventada. No início de 2026, a proporção passou para um em cada 277 artigos.

Os pesquisadores alertam ainda que o cenário pode se agravar nos próximos anos. Isso porque modelos de IA treinados em bases acadêmicas já contaminadas por referências falsas podem reproduzir os mesmos erros em novos conteúdos científicos. Como medida de contenção, os estudos defendem que editoras acadêmicas adotem sistemas automáticos de checagem de referências antes da publicação dos artigos.

 

Junte cashback e transfira para sua conta com a Benefícios Rede Bee!

A Bee Fenati – a rede social dos profissionais de TI de todo o Brasil – segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido direto para sua conta! (Saiba mais aqui)

Baixe o aplicativo nas lojas App Store e Google Store e aproveite agora! A Bee Fenati reúne em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Dell, Casas Bahia, Vivo, Petz, Drogaria São Paulo, e muito mais!

Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os usuários da plataforma receberão de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.

Este valor ficará em uma carteira digital dentro da plataforma da Benefícios Rede Bee e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode transferir o dinheiro direto para sua conta bancária!

Na prática, a ferramenta permitirá que sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) possam ZERAR o valor da sua contribuição assistencial e associativa!

Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras e serviços do cotidiano em ganho real.

 

(Com informações de Tecmundo)

(Foto: Reprodução/Magnific/azizulhuq)