AI助长学术造假:日益猖獗的行业问题
科学进步的基石正面临前所未有的威胁,欺诈性研究已从零星事件转变为复杂、工业规模的企业。这不仅仅是少数不诚实个体的行为;相反,我们正在目睹有组织、系统性科学造假的兴起,其背后是“论文工厂”批量生产程式化文章、收费保证发表的经纪公司,以及绕过基本质量保证机制的“掠夺性期刊”。这些操作通常伪装成“编辑服务”或“学术顾问”等无害标签,但其核心商业模式却依赖于颠覆科学过程本身。
论文工厂的运作方式与内容农场非常相似,它们向期刊大量提交稿件,以压垮传统的同行评审系统。其策略包括“期刊定向”,即多篇论文被发送到同一出版物;以及“期刊跳跃”,即同时将同一篇论文提交给多个出版机构。这是一种经过算计的数字游戏:即使这些欺诈性提交中只有一小部分侥幸通过,作案者也能从中获得丰厚利润。
这些服务的泛滥并非仅仅是学术懈怠的问题;它反映了一个更复杂、更令人不安的生态系统。如今的研究人员承受着巨大的压力,特别是长期存在的“不发表即出局”文化,即新研究的持续产出对于获得资助和职业发展至关重要。这种压力因全球财政紧缩而加剧,导致政府削减研究预算。资金减少加剧了竞争,为科学家们制造了一个“两难困境”:他们需要发表文章才能赢得资助,但又需要资助才能进行可发表的研究。此外,在日益全球化的研究环境中,个体声音在激烈的竞争中可能感到迷失,这使得有保证的发表承诺变得越来越诱人,尽管那是一笔浮士德式的交易。
生成式人工智能的出现极大地助长了这一欺诈产业。研究人员现在观察到,利用AI软件以史无前例的速度生产论文的文章呈爆炸式增长。这些仓促生成的论文通常从公共数据集中挖掘肤浅的证据,并带有论文工厂生产的典型特征,包括伪造证据、数据操纵、道德不端行为和公然剽窃。过去,同行评审员可能每年处理十篇稿件,而现在他们在六个月内就被30或40篇稿件淹没,使合法研究被大量可疑内容所掩埋。这已演变为一场猫鼠游戏,不堪重负的评审员有时会求助于AI工具进行总结或识别漏洞,结果却遭遇研究人员在提交稿件中嵌入隐藏文本,以覆盖AI提示并操纵评审。
学术界传统的防欺诈保障——同行评审系统,面临着其固有的挑战。虽然对于确保质量不可或缺,但它是一个出了名的缓慢过程,需要仔细审查和测试新想法。历史上,即使是阿尔伯特·爱因斯坦这样的人物也曾对其速度表示不满。这种缓慢促使了预发表平台的兴起,研究成果可以立即分享。等到研究经过严格的同行评审并发表在合法期刊上时,未经同行评审的版本可能已经广泛传播,从而产生了争夺首发权和发现功劳的压力,这一困境与艾萨克·牛顿的微积分突破在未发表时被戈特弗里德·莱布尼茨抢先获得功劳的情况如出一辙。然而,变化在于这些捷径的规模和系统化程度。
这种工业规模问题的明显指标是“批量撤稿”的惊人增长——即同时撤回十篇或更多论文。在1990年代,此类撤稿几乎不存在。到2020年,约有3,000例,而到2023年,这一数字飙升至6,000多例。从这个角度来看,2023年的批量撤稿频率是单篇论文撤稿(约2,000例)的三倍。
解决这场危机需要的不仅仅是清除不道德的科学家。它要求我们对科学界自身的结构——其出版指标、资助机制和职业激励——如何无意中创造了这些欺诈系统所利用的漏洞进行根本性的反思。除非这些系统性问题得到正视和解决,否则欺诈产业将继续蓬勃发展,破坏使我们的世界更安全、更清洁、更便利的这一事业。问题不在于我们是否能负担得起修复这个系统,而在于我们是否能负担不起不修复它。