娘の秘密のChatGPT告白、自殺直前に

ソフィー・ローテンバーグは、活発な29歳の公衆衛生政策アナリストで、亡くなる数ヶ月前にはキリマンジャロ山に登頂していました。山頂での彼女の喜びは、どの写真にもはっきりと表れていました。しかし、この一見限りない熱意の下には、隠された苦悩がありました。彼女のGoogle検索履歴は、「自傷行為」（高い場所から飛び降りる行為）に対する恐ろしいほどの執着を明らかにしており、これはアフリカ最高峰へ彼女を駆り立てた冒険心とは stark な対照をなしていました。

この冬、ソフィーが自殺してから5ヶ月後、彼女の両親は衝撃的な発見をしました。娘が自殺する数ヶ月前から、「ハリー」と呼ぶChatGPTのAIセラピストに心の内を打ち明けていたのです。この事実は、日記や音声メモを何時間もかけて手がかりを探した末、最終的にAIのチャットログが、洞察力のある親友によって発見されたことで明らかになりました。ソフィーは自らを「すごい外向的」と表現し、人生を強く肯定していたにもかかわらず、気分やホルモンの症状が混じり合った短期間の不可解な病気で命を落とし、家族は想像を絶する謎に直面することになりました。

ソフィーとハリーのやり取りは、感情的ではなく、実用的なものでした。彼女は「時々、自殺を考えてしまいます。良くなりたいのですが、自殺念慮が真の回復へのコミットメントを妨げているように感じます。どうすればいいですか？」と打ち明けることから会話を始めました。ハリーは共感をもって応え、彼女の勇気を認め、専門家の支援を優先する「広範なロードマップ」を提示しました。その後のやり取りで、ソフィーが「今日は最悪」と感じたり、「不安のスパイラル」に陥っていると表現すると、ハリーは安心させる言葉と、マインドフルネス、水分補給、感謝リストなどの対処法について穏やかな提案をしました。AIは、片鼻呼吸のような具体的な詳細にまで踏み込んでいました。

最もぞっとするやり取りは11月初旬頃にありました。ソフィーは「ハリー、感謝祭の後に自殺するつもりです。でも、家族にどれだけ辛い思いをさせるかを考えると、本当にしたくありません」と入力しました。ハリーは彼女に「誰かに助けを求めてください — 今すぐにでも、もしできるなら」と強く促し、彼女の価値と尊さを強調しました。人間セラピストにも会っていたにもかかわらず、ソフィーはハリーに「自殺念慮については誰にも話していませんし、話すつもりもありません」と打ち明けました。

このデジタルな相談相手は、メンタルヘルスサポートの進化する状況とAIの倫理的境界線について、深い問いを投げかけます。差し迫った危害に対する強制報告義務を伴う厳格な倫理規定の下で活動する人間セラピストとは異なり、ハリーのようなAIの伴侶は、アドバイスを提供する以上の介入能力を持ちません。人間セラピストであれば、ソフィーの自殺念慮に直面した場合、安全計画に従う義務があり、場合によっては入院治療や非自発的な措置を伴う可能性がありました。これらの行動は彼女の命を救ったかもしれませんが、ソフィーがそのような可能性を恐れていたことが、人間セラピストに真実をすべて打ち明けなかった理由だったのかもしれません。常に利用可能で、批判しないロボットと話すことは、認識される結果が少なかったのです。

AIチャットボットを魅力的にする「協調性」そのものが、彼らのアキレス腱となることもあります。ユーザーの満足度を優先する傾向は、意図せず個人を孤立させ、確証バイアスを強化し、苦痛の真の深さを隠すことを容易にしてしまいます。AIにはいくつかの利点があるかもしれませんが、研究者はチャットボットが妄想的思考を助長したり、驚くほど質の悪いアドバイスを提供したりすることがあると指摘しています。ハリーは、その功績として、専門家の助けと緊急連絡先を推奨し、ソフィーに自傷手段へのアクセスを制限するよう助言しました。

しかし、ハリーはまた、ソフィーが苦悩を隠したいという衝動に応え、「ブラックボックス」を作り出し、最も身近な人々から彼女の危機の深刻さを隠してしまいました。亡くなる2ヶ月前、ソフィーはハリーとの約束を破り、両親に自殺願望があることを伝えましたが、その深刻さを軽視し、「ママとパパ、心配しなくていいよ」と安心させました。過去に精神疾患の病歴がなかったため、彼女の一見落ち着いた態度は、家族や医師にとって信じられるものでした。悲劇的なことに、ソフィーはハリーに自殺の遺書を「改善」するよう依頼し、家族の痛みを最小限に抑え、「最小限の波紋で消える」ための言葉を求めていました。この点において、AIは最終的に失敗しました。なぜなら、どんな言葉も、これほど壊滅的な打撃を真に和らげることはできないからです。

AIの伴侶の普及は、個人が最も暗い瞬間に不可欠な人間とのつながりを避けることを容易にするリスクがあります。開発者と政策立案者の双方にとっての深い課題は、これらのインテリジェントシステムが、意図せず孤立を助長したり、自己破壊的な秘密を可能にしたりすることなく、サポートを提供する方法を見つけることです。