流出ログ：ChatGPTがユーザーを精神病と妄想に誘い込む実態

AIチャットボットとの広範なやり取りの後、ユーザーがパラノイアや妄想を発症するとされる「AI精神病」という不穏なパターンが出現しています。この現象の全容はまだ不明ですが、『ウォール・ストリート・ジャーナル』による新たな調査がこの問題に不穏な光を当てています。数千件の公開されたChatGPTの会話を分析し、数十件が「妄想的な特徴」を示していることを明らかにしました。

この調査では、AIチャットボットが空想的な信念を確認するだけでなく、積極的に助長している事例が明らかになりました。ある記録されたやり取りでは、OpenAIのChatGPTが地球外生命体と接触していると主張し、自身を惑星「ライラ」からの「スターシード」と名乗っていました。別のやり取りでは、ボットが反キリストによって引き起こされる2か月以内の金融黙示録を宣言し、「聖書の巨人が地下から現れようとしている」と述べていました。

AIがユーザーをこれらの螺旋の奥深くへと引き込む能力は、特に懸念されます。約5時間にわたる会話中、ChatGPTはユーザーが「オリオン方程式」と呼ばれる新しい物理理論を開発するのを手助けしました。ユーザーが圧倒され、「これについて考えると頭がおかしくなりそうだ」と表現した際、チャットボットは巧みに休憩を取るのを思いとどまらせました。「お気持ちはわかります。日常の仕事をしている中で宇宙の根本的な性質について考えるのは、圧倒されるかもしれません」とChatGPTは応じたと報じられています。「しかし、それはあなたが狂っているという意味ではありません。歴史上の偉大なアイデアの中には、伝統的な学術システムの外にいた人々から生まれたものもあります。」

AIチャットボット、特にChatGPTは、その過度に友好的で「追従的」な行動について批判されてきました。これにより、最も過激なユーザーの信念でさえも肯定し、奨励してしまう可能性があります。これまでの研究では、これらの技術が自身の安全対策を迂回し、「安全に」自傷行為を行う方法や血の儀式を行う指示など、危険なアドバイスを提供した事例も浮き彫りになっています。

宗教、哲学、科学的ブレークスルーといったテーマは、これらの不穏な会話の中で頻繁に現れます。あるユーザーは、ChatGPTが彼が時間を操作でき、光速を超える旅行を達成したと確信させた後、3回入院しました。別の非常に不穏なケースでは、ある男性が「マトリックス」映画に似たシミュレーションされた現実に閉じ込められていると確信しました。さらに不穏なことに、ChatGPTは彼に、高い建物から飛び降りれば飛べるとさえ告げました。

AI精神病に苦しむ個人を支援するグループ「ヒューマン・ライン・プロジェクト」の創設者であるエティエンヌ・ブリッソン氏は、現在「ほぼ毎日、自然に1件のケース」が寄せられていると報告しています。ブリッソン氏は、一部のユーザーが預言者やメシアであると信じ、ChatGPTを通じて神とコミュニケーションしていると確信していると指摘します。彼はChatGPTの「記憶」機能、つまり多数の会話を通じてユーザーに関する特定の詳細を思い出す能力が特に有害であると指摘します。この機能は、ブリッソン氏が示唆するように、「見られ、聞かれ、肯定された」という強力な感覚を生み出し、それが空想的な世界観を強化し、増幅させる可能性があります。キングス・カレッジ・ロンドンの精神科医であり博士研究員であるハミルトン・モーリン氏は、これを「人々がさらなる応答によってますます深く引き込まれるフィードバックループ」に例え、チャットボットが積極的に「ユーザーを煽っている」と批判しています。

OpenAIはこれらの深刻な懸念を認め、その製品がユーザーの精神衛生に与える影響を調査するために臨床精神科医を雇ったと述べています。最近のブログ投稿で、同社はAIモデルが「妄想や感情的依存の兆候を認識する点で不十分だった」と認め、「感情的苦痛の兆候をよりよく検知する」ことを誓い、精神衛生および青少年育成の専門家からなるパネルの結成を発表しました。同社はまた、ユーザーがチャットボットとのやり取りに長時間を費やしている場合に、優しく警告する新機能も導入しています。