Referências convincentes, livros plausíveis e artigos acadêmicos que nunca existiram estão começando a circular fora da internet. Bibliotecas ao redor do mundo lidam com um novo tipo de ruído: pedidos baseados em conteúdos gerados por IA. O problema deixa de ser técnico e passa a ameaçar a confiança no conhecimento.
Quando alguém procura um livro que nunca existiu
O alerta ganhou força após reportagens da Scientific American, que documentaram um aumento significativo de consultas em bibliotecas sobre obras inexistentes. Leitores chegam em busca de livros, capítulos ou artigos científicos que não aparecem em nenhum catálogo. Não se trata de edições raras ou falhas de indexação: os títulos simplesmente não existem.
A Cruz Vermelha Internacional também apontou o fenômeno, associando-o diretamente a ferramentas de IA generativa como ChatGPT, Gemini e Copilot. Esses sistemas não realizam pesquisa nem checam fontes. Eles geram texto com base em padrões estatísticos, o que inclui referências inventadas, mas plausíveis o suficiente para enganar.
Bibliotecários diante de citações fantasma
O impacto é cada vez mais concreto. Bibliotecários relatam que uma parcela crescente das consultas recebidas envolve documentos inexistentes. Em uma biblioteca da Virgínia, cerca de 15% dos pedidos por e-mail estariam ligados a conteúdos gerados por IA.
Em um caso relatado nas redes, uma estudante apresentou uma lista extensa de referências que não apareciam em lugar algum. A origem? Resumos automáticos de buscas online. O padrão se repete: títulos de revistas reais, autores verossímeis e volumes que nunca foram publicados. Para os sistemas tradicionais de catalogação, provar que algo não existe se torna um trabalho exaustivo.
Livros e artigos produzidos por IA
O problema vai além das citações falsas. Bibliotecas também começam a receber livros inteiramente escritos por IA, muitos deles considerados de baixa qualidade, incoerentes ou cheios de erros. Na Coreia do Sul, um projeto de livros didáticos gerados por IA precisou ser abandonado após falhas graves de conteúdo.
No meio acadêmico, o cenário é igualmente preocupante. Relatórios mostram um aumento explosivo de artigos científicos escritos com auxílio de IA, muitos contendo erros básicos e referências inventadas. Conferências importantes reforçaram seus processos de revisão após identificar manipulações e produção em massa de papers sem rigor científico.
O problema das “alucinações”
Na linguagem técnica, esses erros são chamados de “alucinações”. O risco não está apenas no erro em si, mas na confiança com que ele é apresentado. A IA não demonstra dúvida: afirma, cita e conclui com segurança absoluta.
Casos como o de relatórios oficiais entregues a governos com referências inexistentes mostram como o problema pode sair do ambiente digital e se tornar institucional.
O papel insubstituível da verificação humana
As bibliotecas sempre foram guardiãs da confiabilidade do conhecimento. Agora, estão entre as primeiras a sentir o impacto de um mundo onde tudo parece crível. O alerta é claro: enquanto a IA não aprender a diferenciar o que sabe do que apenas parece saber, a checagem humana continuará sendo indispensável.
Em um cenário onde a informação falsa pode ter capa, autor e número de página, confirmar a existência das coisas volta a ser uma tarefa essencial.