AIが科学詐欺を加速：拡大する業界問題

科学的進歩の基盤は、前例のない脅威に直面しています。不正な研究が孤立した事例から、巧妙で産業規模の事業へと移行しているためです。これは単に一部の不誠実な個人の仕業ではありません。むしろ、私たちは組織的かつ体系的な科学詐欺の台頭を目の当たりにしています。その背後には、定型的な論文を大量生産する「論文工場」、有償で掲載を保証する仲介業者、そして不可欠な品質保証メカニズムを迂回する「捕食ジャーナル」といった存在があります。これらの活動は、「編集サービス」や「学術コンサルタント」といった無害な名目で偽装されることが多いですが、その中核となるビジネスモデルは、科学的プロセスそのものを破壊することに依拠しています。

論文工場はコンテンツファームと非常によく似た機能を持っており、従来の査読システムを圧倒するために、大量の論文をジャーナルに送りつけます。彼らの戦略には、複数の論文を単一の出版物に送る「ジャーナルターゲティング」と、同じ論文を複数の媒体に同時に提出する「ジャーナルホッピング」が含まれます。これは計算された数のゲームであり、これらの不正な提出物のごく一部でもすり抜ければ、犯行者は多大な利益を得ます。

これらのサービスの蔓延は、単に学術的な怠慢の問題ではありません。それは、より複雑で厄介なエコシステムを反映しています。今日の研究者は、特に長年続く「発表か死か」の文化、すなわち、資金獲得とキャリアアップのために新しい研究を継続的に発表することが不可欠であるという、途方もないプレッシャーの下で活動しています。このプレッシャーは、世界的な財政的制約によってさらに強まり、政府は研究予算を削減しています。資金の削減は競争を激化させ、助成金を得るためには論文発表が必要だが、発表可能な研究を行うには助成金が必要という、科学者にとっての「板挟み」を生み出しています。さらに、ますますグローバル化する研究環境では、個々の声が競争の海の中でかき消されてしまうと感じることもあり、保証された論文掲載の約束は、ファウスト的な取引ではあるものの、ますます魅力的なものとなっています。

生成AIの登場は、この詐欺産業を劇的に増幅させました。研究者たちは現在、AIソフトウェアを悪用して前例のない速度で論文を生成する論文が爆発的に増加しているのを目の当たりにしています。これらの hastily generated papers (急いで生成された論文) は、しばしば公開データセットから表面的な証拠を掘り出し、証拠捏造、データ操作、倫理的不正行為、そして露骨な盗用といった、論文工場による生産の紛れもない特徴を帯びています。かつて査読者は年間10件の投稿を処理していたかもしれませんが、今では6ヶ月以内に30件または40件もの投稿に殺到され、正当な研究が疑わしい内容の雪崩の下に埋もれています。これは猫と鼠のゲームと化しており、圧倒された査読者は、要約やギャップの特定のためにAIツールに頼ることがありますが、その結果、研究者たちが投稿に隠しテキストを埋め込み、AIのプロンプトを無効にして査読を操作していることに直面します。

学術界の伝統的な不正行為に対する防波堤である査読システムは、それ自身の固有の課題を抱えています。品質を保証するために不可欠である一方で、新しいアイデアの慎重な検討と検証を要求するため、悪名高いほど遅いプロセスです。歴史的に、アルバート・アインシュタインのような人物でさえ、そのペースに軽蔑の念を表明していました。この遅さが、研究結果をすぐに共有できるプレプリントプラットフォームの台頭を促しました。研究が厳格な査読を経て正当なジャーナルに掲載される頃には、査読前のバージョンがすでに広く普及している可能性があり、最初に発表して発見の功績を主張するというプレッシャーが生じます。これは、アイザック・ニュートンの微積分学の画期的な発見が未発表のまま放置され、ゴットフリード・ライプニッツがその功績を主張したジレンマと重なります。しかし、変化したのは、これらの近道の規模と体系化の徹底ぶりです。

この産業規模の問題を示す顕著な指標は、「一括撤回」、すなわち10本以上の論文が同時に撤回されるケースの驚くべき増加です。1990年代には、このような撤回は事実上存在しませんでした。2020年には約3,000件に達し、2023年にはこの数字が6,000件以上に急増しました。これを大局的に見ると、2023年の一括撤回は、約2,000件であった単一論文の撤回よりも3倍も頻繁に発生しています。

この危機に対処するには、単に非倫理的な科学者を排除するだけでは不十分です。科学界自身の構造、すなわち論文発表の指標、資金調達の仕組み、キャリアインセンティブが、いかにしてこれらの不正システムが悪用する脆弱性を意図せず生み出してきたかについて、根本的な見直しが求められます。これらのシステム的な問題に直面し、解決されない限り、詐欺産業は繁栄し続け、私たちの世界をより安全で、清潔で、アクセスしやすいものにしてきたまさにその事業を蝕むでしょう。問題は、このシステムを修復する余裕があるかどうかではなく、修復しない余裕があるかどうかです。