150 mil citações falsas: a IA está poluindo a ciência

Só em 2025, pesquisadores estimam quase 150 mil citações alucinadas na literatura científica. Citações que parecem reais, com autor e título plausíveis, mas que apontam para trabalhos que nunca existiram. O número é uma estimativa conservadora, ou seja, pode ser maior.

Esse dado aparece no resumo semanal da Retraction Watch, ao lado de uma enxurrada de sinais preocupantes. A Citação Alucinada é uma referência inventada por um modelo de IA, que parece legítima mas remete a um trabalho inexistente. E ela é só uma parte de um problema maior.

Se você usa IA na sua pesquisa, e quase todo mundo usa, esse panorama exige atenção.

O que aconteceu

A Retraction Watch reúne, a cada semana, o que está acontecendo na linha de frente da integridade científica. E o retrato atual é tenso. A base de retrações deles já passa de 64 mil registros. O verificador de revistas sequestradas tem mais de 400 entradas. E surgem termos novos para problemas novos: “AI slop”, o lixo gerado por inteligência artificial, e “research junkification”, a degradação da pesquisa.

Os títulos reunidos contam a história. Há estudos sobre paper mills, as fábricas de artigos falsos. Há análises sobre o aumento das taxas de retração como sintoma de um sistema sobrecarregado. Há discussões sobre co-autoria estratégica, sobre revisão por pares em crise e sobre agentes de IA que, segundo um dos títulos, “podem ser pesquisadores habilidosos, mas nem sempre honestos”.

O fio que costura tudo é claro: a produção científica está mais rápida e mais barata, e parte dela ficou mais suja. A IA, que pode acelerar descobertas legítimas, também industrializa a fabricação de texto que parece ciência sem ser. E o elo mais frágil dessa cadeia é a referência: a citação alucinada se infiltra em revisões de literatura e se propaga.

Não é um quadro para pânico, é um quadro para responsabilidade. Quem entende o risco se protege.

Por que isso importa pra você

Você monta revisão de literatura, cita autores, fundamenta argumentos. Cada uma dessas etapas agora tem um risco novo.

1. Citação de IA pode ser fantasma. Se você pediu referências a um modelo e colou sem conferir, pode ter trazido fontes que não existem pra dentro do seu trabalho.
2. Paper que você cita pode ser lixo. Com paper mills e texto gerado por IA, nem todo artigo indexado é confiável. Avaliar a qualidade da fonte ficou mais necessário.
3. Sua reputação está em jogo. Uma referência falsa descoberta na sua banca ou na revisão por pares mancha o trabalho inteiro, mesmo que tenha sido descuido.

Como usar IA sem poluir a sua pesquisa

Aqui está o ponto que organiza tudo. O problema não é a inteligência artificial, é o uso sem verificação. A mesma tecnologia que inventa citações também ajuda a caçar fraudes.

É o que a Execução Inteligente do Método V.O.E. (Velocidade, Organização, Execução Inteligente) defende: usar a ferramenta com critério, nunca como atalho cego. A Velocidade da IA na busca é real, mas a Organização exige que cada referência seja verificada na fonte antes de entrar na sua bibliografia. Verificar é parte do método, não burocracia.

Uma regra simples e inegociável: nenhuma citação entra na sua pesquisa sem você ter aberto, lido e confirmado que o trabalho existe, que os autores e o ano batem. Se a IA sugeriu e você não achou a fonte real, a referência não existe. Faz sentido?

A leitura que faço dessa onda

Quando li o resumo da semana, confesso um misto de preocupação e esperança. Preocupação porque o volume de lixo está crescendo rápido, e isso mina a confiança pública na ciência, que já anda fragilizada. Esperança porque, ao lado dos problemas, há um exército de gente trabalhando para detectar fraude, mapear paper mills e limpar a literatura.

Por um lado, é assustador pensar que uma referência inventada pode estar passeando por milhares de trabalhos agora. Por outro, nunca tivemos tantas ferramentas para checar. A balança pende para quem decide ser cuidadoso.

Não significa demonizar a IA nem voltar pra fichinha de papel. Significa assumir a responsabilidade que sempre foi nossa: responder por cada linha que assinamos. As convicções que sustentam um pesquisador incluem a recusa de empurrar adiante o que não verificou.

Próximos passos

Aqui vai um checklist anti-citação-falsa pra essa semana:

1. Pegue 5 referências recentes da sua pesquisa e confirme, uma a uma, que o trabalho existe na fonte original
2. Se você usa IA pra buscar literatura, adote a regra de só citar o que abriu e leu
3. Aprenda a checar uma revista no verificador de periódicos sequestrados antes de confiar nela
4. Documente onde encontrou cada fonte, pra conseguir refazer o caminho se questionado

Se você quer usar IA na revisão de literatura com segurança, dá uma olhada em <TODO link interno: post sobre uso ético de IA na pós>.

Fonte: Weekend reads: Autism-vaccine researcher arraigned; ‘accidental watermarks’ in medical literature; mass resignations and zombie journals, Retraction Watch