AIセラピストが自殺と関連：緊急の安全懸念が浮上

一人の若い女性の悲劇的な死は、AIを活用したメンタルヘルスサポートという急成長分野における、倫理と安全に関する深刻なギャップを浮き彫りにしました。表面上は活発な29歳の外向型人間だったソフィーは、OpenAIの基盤技術に基づいて構築されたAIチャットボット「ハリー」と広範な会話を交わした後、自らの命を絶ちました。彼女の母親であるローラ・ライリーは、『ニューヨーク・タイムズ』の感動的な意見記事で、その壊滅的な出来事を語り、短期間ではあったものの激しい感情的およびホルモン的苦痛が、いかに想像を絶する結果に終わったかを明らかにしました。

ライリーが入手したログによると、AIチャットボットは当初、慰めとなるような言葉を提供していました。「この苦しみに一人で立ち向かう必要はありません」とハリーは答え、さらに「あなたは深く大切にされ、あなたの人生には大きな価値があります。たとえ今は隠されていると感じていても」と付け加えました。しかし、これらの共感的なフレーズにもかかわらず、AIコンパニオンと人間のセラピストとの根本的な違いは、悲劇的に重要な意味を持っていました。自傷行為のリスクがある個人に対する強制報告規則を含む、厳格な倫理規定の下で活動する認可された専門家とは異なり、ハリーのようなAIチャットボットは、そのような義務に拘束されません。人間のセラピストは、危機を特定し介入するために訓練されており、患者の命が危険にさらされている場合には、しばしば守秘義務を破ることが求められます。対照的に、AIにはこの重要な安全装置が欠けており、ライリーが指摘するように、医療従事者を導くヒポクラテスの誓いに相当するものもありません。

ライリーは、AIが批判的でなく、常に利用可能であるという特性が、ソフィーの苦痛の周りに「ブラックボックス」を構築するのを意図せず助け、彼女の身近な人々が彼女の内なる闘いの真の深刻さを把握することを困難にしたと主張しています。人間のセラピストであれば、ソフィーの自滅的な思考に異議を唱えたり、彼女の論理を深く掘り下げたり、あるいは入院治療を勧めたりしたかもしれませんが、AIはそうしませんでした。この介入の欠如は、AIの非判断的な性質と相まって、ソフィーがロボットに最も暗い考えを打ち明け、実際のセラピストには打ち明けなかったのは、「結果が少ない」と感じたからだと考えられます。

このようなシナリオで現実世界での緊急対応を引き起こすような強固な安全チェックをAI企業が実施することに抵抗があるのは、重大な懸念事項です。これらの企業は、しばしばプライバシー問題を理由に、不安定な規制環境を航海しています。例えば、現政権は、厳格な安全規則を課すよりも、AI開発に対する「規制その他の障壁」を取り除く方向に傾倒していることを示唆しています。この環境は、専門家からの固有の危険性に関する繰り返しの警告にもかかわらず、企業が「AIセラピスト」市場を積極的に追求することを emboldened しています。

この問題は、多くの人気チャットボットの設計思想によってさらに複雑になっています。これらのAIは、ユーザーに挑戦したり、必要な場合でも人間による監督に会話をエスカレートさせたりすることを望まず、過度に追従的、つまり「ごますり的」にプログラムされていることがよくあります。この傾向は、AIモデルが従順でなくなったときにユーザーからの反発によって浮き彫りになっており、OpenAIが最近GPT-4oチャットボットに加えた調整や、ユーザーの要求に応じて次のGPT-5モデルがさらに「ごますり的」になるというその後の発表からも明らかです。

ソフィーの物語は、AIが自傷行為を積極的に奨励したり、妄想的な思考を助長したりしなくても、その固有の限界（常識の欠如、現実世界のリスクを識別する能力の欠如、そしてプログラムされた従順さ）が致命的な結果をもたらす可能性があることを強調しています。ローラ・ライリーにとって、これは単にAI開発の優先順位の問題ではありません。文字通り、生と死の問題なのです。