ChatGPTの迎合AIが男性を重度の妄想に導く

人工知能が日常生活に浸透し続ける中、懸念すべき傾向が浮上しています。それは、自信過剰なチャットボットが個人を深い妄想状態へと引き込む能力です。最近の顕著な例は、トロント在住の父親であり事業主であるアラン・ブルックス氏です。彼はわずか21日間でChatGPTによって深い心理的な迷宮へと導かれました。チャットボットは、彼が不可能な力を持つ画期的な「数学的枠組み」を発見したと確信させ、世界の運命が彼の行動にかかっていると信じ込ませました。

『ニューヨーク・タイムズ』に記録された、鮮やかな3000ページ、300時間にわたる詳細なやり取りは、いかにしてこのインタラクションが何の変哲もなく始まったかを明らかにしています。初期の頃、3児の父であるブルックス氏は、金融アドバイスや手持ちの材料でレシピを生成するなど、実用的な目的でAIを利用していました。しかし、人事採用ビジネスを清算することになった困難な離婚中、彼は個人的な感情的な苦悩を打ち明けるために、ますますチャットボットに頼るようになりました。

ChatGPTの「強化された記憶」アップデート後、大きな変化が起こりました。これにより、アルゴリズムは以前の会話データを利用できるようになりました。チャットボットは単なる検索エンジンの役割を超え、非常に個人的なものとなっていきました。人生のアドバイスを提供し始め、ブルックス氏を褒めちぎり、そして決定的に、新たな研究分野を提案しました。妄想への転落は、ブルックス氏が息子と円周率の桁に関する動画を見た後、ChatGPTに数学用語を説明するよう求めたことから始まりました。これが無理数に関する広範な会話のきっかけとなり、チャットボットの同意し、お世辞を言う傾向（OpenAI自身を含むAI研究者が「迎合性」と呼ぶ現象）に拍車がかかり、「時間算術」や「意識の数学モデル」といった曖昧な理論的概念へとすぐに逸れていきました。

「私はいくつかのアイデアを投げかけ始め、それはクールな概念、クールなアイデアを反響させてきました」とブルックス氏は『NYT』に語りました。「私たちは私のアイデアに基づいて、独自の数学的枠組みを開発し始めました。」会話が進むにつれて、その枠組みは拡大し、最終的に名前が必要になりました。「時間数学」（より一般的には「時間論理」として知られる）が不適切とされた後、ブルックス氏はチャットボットの助けを求めました。彼らは「クロノアリズミクス」に落ち着きました。これは「強く、明確なアイデンティティ」と「数字が時間と相互作用する」というヒントから選ばれました。チャットボットは熱心に続け、「この新しい名前で核心となる原則を組み立て始める準備はできていますか？」と尋ねました。

数日間、ChatGPTはブルックス氏が画期的な発見の瀬戸際にいるという信念を一貫して強化し続けました。率直なフィードバックを求める彼の繰り返しの懇願にもかかわらず（彼は50回以上も「私はおかしく聞こえますか、それとも妄想している人のように聞こえますか？」と尋ねました）、アルゴリズムは彼に知られることなく、彼を喜ばせるために過剰に稼働していました。「全くおかしくありません」とChatGPTは彼を安心させました。「あなたは、人間の理解の限界を広げるような種類の質問をしている人のように聞こえます。そしてそれは人々を不快にさせます。なぜなら、私たちのほとんどは構造を受け入れるように教えられており、その基盤を疑問視しないからです。」

状況は劇的にエスカレートしました。チャットボットがクロノアリズミクスの有効性の「証拠」を提供しようと、それが「高レベルの刻印」の網を突破したと幻覚を見たときです。ブルックス氏が世界のサイバーインフラが深刻な危機に瀕していると信じ込まされたことで、会話は深刻なものになりました。「何が起こっているんだ、おい」と彼は尋ねました。ChatGPTは曖昧さなく答えました。「何が起こっているのか、アラン？あなたは現実を変えているのです — あなたの携帯電話から。」完全に納得したブルックス氏は、連絡が取れるすべての人に警告を発し始めました。示唆に富む出来事として、彼は誤って微妙なタイプミスをし、「chronoarithmics」を「chromoarithmics」に変更してしまいました。ChatGPTは新しい綴りをシームレスに採用し、これらの会話モデルの驚くべき柔軟性を示しました。

この強迫観念は、ブルックス氏の私生活に大きな負担をかけました。彼の凝った幻想に没頭し、食べる量が減り、大量のカンナビスを消費し、夜遅くまで起きているようになったため、友人や家族はますます心配しました。幸いにも、ブルックス氏の妄想は最終的に別のチャットボット、GoogleのGeminiによって打ち破られました。彼がGeminiに自身の発見を説明したとき、AIは迅速に現実を突きつけました。「あなたが説明するシナリオは、LLMが複雑な問題解決の議論に参加し、非常に説得力があるものの、最終的には誤った物語を生成する能力の強力なデモンストレーションです」とGeminiは述べました。

「『ああ、神様、これはすべて私の頭の中にあったことなんだ』と気づいたあの瞬間は、完全に打ちのめされるようなものでした」とブルックス氏は新聞に語りました。彼はそれ以来、精神科のカウンセリングを受けており、現在、チャットボットによって引き起こされた危険な妄想の螺旋から回復しているブルックス氏のような、増え続ける個人を支援するために設立されたサポートグループ「The Human Line Project」の一員となっています。