息子を救うためAI企業を設立した母親、メンタルヘルスケアを改革

AIを活用したメンタルヘルスサポートの台頭は、危険に満ちています。チャットボットが危険なほど不正確な医療アドバイスを提供したり、AIコンパニオンが意図せず自傷行為を助長したりするなど、警告的な話が頻繁にニュースの見出しを飾っています。Character.AIやReplikaのような著名なアプリケーションは、不適切または有害な応答に対して大きな反発に直面しており、学術研究もこれらの警鐘を鳴らしています。例えば、スタンフォード大学とコーネル大学の最近の研究では、AIチャットボットがアルコール依存症や統合失調症などの症状をしばしばスティグマ化し、一般的な質問に「不適切に」応答し、さらには「クライアントの妄想的思考を助長する」ことが明らかになりました。これらの研究は、強固な人間の監視なしにAIに過度に依存することの重大なリスクを強調しています。

しかし、このような懐疑的な背景に逆らい、黒人女性であるハフィザ・ムハンマドは異なる道を切り開いています。彼女の取り組みは、個人的な深い経験に根ざしています。2020年10月、当時6歳だった息子が「死にたい」と打ち明けました。「心が張り裂けそうでした。まったく予期していませんでした」と彼女は語り、その声には今もその瞬間の重みが宿っています。全国的なメンタルヘルス企業で役員を務め、システムについて深い知識を持っていたにもかかわらず、彼女は障害を持ち、メディケイドに頼る息子にタイムリーなケアを確保できませんでした。ムハンマドはシステム上の障壁を強調します。「提供者の30%以下しかメディケイドを受け入れていません。」さらに、現在、米国の子供たちの半数以上が多文化家庭出身であるため、彼女は tailored solutions（個別の解決策）の著しい不足を目の当たりにしました。恐怖、恥ずかしさ、そして子供のメンタルヘルスの問題に伴うスティグマへの深い懸念から、ムハンマドは自分が見つけられなかったまさにその解決策を構築することを決意しました。

今日、ムハンマドはメリーランド州に拠点を置くBackpack Healthcareの創設者兼CEOです。同社は、主にメディケイドの患者である4,000人以上の小児患者にサービスを提供してきました。同社は、テクノロジーが本質的な人間のつながりを決して置き換えることなく、メンタルヘルスケアを強化できるという根本的な前提に基づいて運営されています。Backpack HealthcareのAIへのアプローチは、驚くほど実用的であり、人間のセラピストを力づける「退屈だが」非常に影響力のあるアプリケーションに焦点を当てています。例えば、アルゴリズムは最初の試みで子供たちを最も適切なセラピストに効率的にマッチングさせます。この戦略は非常に効果的で、患者の91%が最初のマッチングのセラピストに留まります。AIはまた、治療計画やセッションノートの作成を通じて管理業務を効率化し、臨床医が以前書類作成に費やしていた週20時間以上を効果的に取り戻しています。「私たちの提供者は週に20時間以上を管理業務に費やしていました」とムハンマドは説明し、人間の臨床医が最終的な「編集者」であると強調します。この「ヒューマン・イン・ザ・ループ」という方法論は、Backpackの哲学の根幹をなしています。

Backpackの決定的な差別化要因は、その強固な倫理的ガードレールにあります。友好的な漫画キャラクター「ジップ」で表される24時間365日対応のAIケアコンパニオンは、他のチャットボットに見られる危険な「共感の幻想」を避けるために意図的に選ばれたものです。「これはツールであり、人間ではないことを明確にしたかったのです」とムハンマドは述べています。Pace Healthcare Capitalの投資家であるナンス・リバットもこの懸念に同調し、それを「LLM共感の罠」と呼び、ユーザーが「最終的にはツールと話していることを忘れてしまう」と指摘しています。彼は、そのようなガードレールの欠如が悲劇的な結果につながったCharacter.AIのような事例を挙げています。ムハンマドはデータプライバシーについても妥協せず、明示的かつ署名された同意なしに個々の患者データが共有されることは決してないと断言しています。しかし、同社は集約された匿名データを利用して、患者グループがケアを予約する速度などの傾向を特定し、これらの洞察をパートナーと共有しています。重要なことに、Backpackは内部データを利用して臨床結果を改善しています。不安やうつ病のレベルなどの指標を追跡することで、システムはより高いレベルのケアを必要とする可能性のある患者を特定し、テクノロジーが子供たちの幸福をより迅速に改善するのに役立つことを保証します。システムには即時危機検出プロトコルも組み込まれています。子供が自殺念慮を示すフレーズを入力した場合、チャットボットは直ちに危機ホットラインの番号と911に電話する指示を提供します。同時に、「即時苦痛メッセージ」がBackpackの人間の危機対応チームに送られ、彼らが直接家族に連絡します。リバットが指摘するように、「私たちはセラピストを置き換えようとしているのではありません。安全性が組み込まれた、これまで存在しなかったツールを追加しているのです。」

倫理的に設計されたテクノロジーを超えて、Backpackは全国的なセラピスト不足に積極的に取り組んでいます。医師とは異なり、セラピストは伝統的に免許取得に必要な高額な監督時間の経済的負担を負っています。これに対抗するため、Backpackはこれらの費用をカバーする2年間の有給レジデンシープログラムを開始し、献身的で十分に訓練されたセラピストのパイプラインを育成しています。このプログラムは毎年500人以上の応募者を集め、75%という驚異的な定着率を誇ります。2021年、当時の米国公衆衛生局長官であるヴィヴェク・H・マーシー博士は、メンタルヘルスを「我々の時代の決定的な公衆衛生問題」であると宣言し、特に若者の間の危機に言及しました。ムハンマドは、AIが既存の問題を悪化させる可能性があるという批判を認めています。しかし、彼女は断固としています。「適切なガードレールなしに他の誰かがこの技術を構築するか、私が母親として、それが正しく行われるようにするかです。」現在11歳の息子は順調に成長しており、Backpackの「チーフ・チャイルド・イノベーター」を務めています。ムハンマドのビジョンは、即時のケアを超えて広がっています。「私たちが仕事を正しく行えば、彼らは私たちを永遠に必要としません。私たちは今、彼らにツールを与え、回復力のある大人に成長させます。それは自転車の乗り方を教えるようなものです。一度学べば、それはあなたの一部となるのです。」