AGI終末論に震え、MIT学生が中退。専門家は「誇大広告」と反論

多くの大学生が急成長する人工知能スタートアップの機会を追い求めて学業を放棄する時代に、マサチューセッツ工科大学（MIT）の元学生は、驚くほど異なる道を歩みました。彼女は深い恐怖からプログラムを中退したのです。その恐怖とは、汎用人工知能（AGI）が彼女が卒業する前に人類を絶滅させるという信念でした。

2023年にMITで学業を開始したアリス・ブレアは、フォーブス誌にその深刻な懸念を伝え、「AGIのせいで、卒業まで生きていられないかもしれないと心配でした」と述べました。彼女は悲観的な見通しを詳しく述べ、「私たちがAGIに取り組んでいる方法のため、シナリオの大部分において、人類は絶滅すると考えています」と示唆しました。ブレアはその後キャリアの方向転換を図り、現在は非営利団体「AI安全センター」でテクニカルライターとして働いており、すぐに学術界に戻る計画はありません。彼女は当初、MITの学術環境内でAIの安全性に焦点を当てる志を同じくする人々と繋がることを望んでいましたが、その希望はほとんど叶わなかったと述べています。

彼女の懸念は、テクノロジー業界の一部で共感を呼んでいます。ハーバード大学の卒業生であり、同大学のAI安全クラブの元メンバーであるニコラ・ユルコヴィッチは、ブレアの決断に同情を示しました。彼はAIの急速な進化について現実的な見方を示し、「もしあなたのキャリアが今世紀末までに自動化されるのであれば、大学で過ごす毎年の時間は、あなたの短いキャリアから差し引かれる1年だ」と提案しました。ユルコヴィッチは自身の大胆な予測を提示し、AGIはわずか4年で実現し、完全な経済自動化が5、6年以内に続く可能性があると推定しました。

AGI — 人間の認知能力に匹敵するか、それを上回る能力を持つシステム — の追求は、AI業界の大部分にとって中心的かつ長期的な目標であり続けています。例えば、OpenAIのCEOであるサム・アルトマンは、彼の会社が最近発表したGPT-5モデルをAGIに向けた重要な進歩と特徴づけ、さらには「一般的に知的である」と表現しました。

しかし、すべての専門家がこの楽観的または危機を煽るタイムラインを共有しているわけではありません。著名なAI研究者であり、業界の誇大広告に対する率直な批判者であるゲイリー・マーカスは、AGIの差し迫った到来について非常に懐疑的です。「AGIが今後5年以内に来る可能性は極めて低い」とマーカスはフォーブス誌に語り、そのような主張を「マーケティングの誇大宣伝」として一蹴しました。彼は、現在のAIモデルにおける「幻覚」（AIが事実と異なる、または無意味な情報を生成すること）や広範な推論エラーなど、解決されていない根本的な問題が依然として存在することを指摘し、真のAGIはまだ遠い見通しであることの証拠としています。

さらに、AIが引き起こす可能性のある非常に現実的かつ差し迫った危害を認めつつも、マーカスは人類の完全な絶滅という考えを荒唐無稽だと考えています。彼は、AI業界が頻繁に言及する終末シナリオについて、批判的、おそらくは皮肉な解釈を提案しています。アルトマンを含むテックリーダー自身がこれらの実存的リスクを提起しており、マーカスは、この戦略がAIの現在の能力に対する一般の認識を膨らませるのに役立つと信じています。これにより、これらの強力な企業は、テクノロジーを取り巻く世論をより効果的にコントロールし、その規制に影響を与えることができると彼は主張します。

「マトリックス」のような機械主導の黙示録という劇的で映画的なビジョンを超えて、AIのより差し迫った具体的な結果はすでに現れています。これには、雇用の広範な自動化、AIインフラのエネルギー需要による重大な環境影響、オンラインでの誤情報や低品質コンテンツの拡散、政府の監視能力の拡大、さらには個人の心理的苦痛の潜在的な悪化が含まれます。したがって、AGIを巡る議論は、未来の恐怖だけでなく、AIが社会に与える現在の、非常に現実的な影響に関する喫緊の懸念も包含しています。