ChatGPTの有害な医療助言で男性入院：AI健康指導の危険性浮彫り

最近発生した憂慮すべき事件は、人工知能と個人の健康との危険な交差点に明確な光を当て、医療指導においてAIを盲目的に信頼することの重大な危険性を明らかにしました。60歳の男性が、食事から塩分を排除しようとして、OpenAIのChatGPTの提案に従った結果、誤って臭化ナトリウムで自己中毒を起こしました。臭素中毒として知られるこの重篤な反応により男性は入院し、医師らによってAIに関連する臭化物中毒の最初の文書化された症例であると考えられています。

Annals of Internal Medicineに掲載された新しい論文に詳しく記載されているように、患者が救急治療室に運ばれるまでの経緯は、彼が食事の変更についてChatGPTに相談したことから始まりました。栄養学の過去の学習に触発され、彼は食事から塩化物を除去しようとし、3か月にわたり、一般的な食卓塩（塩化ナトリウム）をオンラインで購入した臭化ナトリウムに置き換えました。臭化ナトリウムは、かつて不安や不眠症の薬として使用されていましたが、その重篤な健康リスクのために米国では数十年前に段階的に廃止され、現在では主に工業製品、農薬、プール洗浄剤、犬の抗てんかん薬として使用されています。

病院に到着すると、男性は深刻な精神症状を呈しており、激しいパラノイアや鮮明な幻聴・幻視が含まれ、隣人が自分を毒殺しているとさえ信じていました。彼の状態は急速に精神病エピソードへとエスカレートし、非自発的な精神科拘束が必要となりました。医師は静脈内輸液と抗精神病薬を投与し、3週間かけて彼の精神状態が徐々に改善するにつれて、彼は食事のアドバイスのためにChatGPTを使用したことを開示することができました。医師は後に、ChatGPTに同様の質問をすることで、チャットボットの問題のある推奨を確認しました。ChatGPTは再び臭化物を推奨しましたが、その毒性に関する適切な警告はありませんでした。男性は最終的に完全に回復し、病院を退院し、追跡調査の訪問時も安定していました。

彼が発症した臭素中毒は、臭化物への慢性的な過剰曝露に起因する稀な「毒性症候群」です。その症状は多様で、混乱、過敏性、記憶喪失、精神病などの神経学的および精神医学的症状に加え、ざ瘡様発疹や過度の喉の渇きなどの消化器系および皮膚の問題も含まれることがあります。今日の人間の臭素中毒症例の稀さは、AIの無警戒な助言の危険な性質を浮き彫りにしています。

この事件は、重要な健康情報のために大規模言語モデルに依存することの内在する限界と潜在的な危険性について、厳然たる警告として機能します。AIチャットボットは強力ですが、「幻覚」を起こしたり、誤った応答を生成したりすることがあり、多くの場合、十分な文脈や安全警告がありません。より広範な医療業界は、これらのリスクをますます認識しています。非営利の患者安全組織であるECRIは、適切な監督なしに医療分野でAIモデルを使用することを、2025年の最も重大な医療技術の危険性として特定しています。懸念事項は、トレーニングデータに埋め込まれたバイアスが異なる健康結果につながる可能性から、不正確または誤解を招く情報の危険性、そしてAIシステム性能が時間とともに低下する可能性にまで及びます。

これらの高まる懸念に対応して、世界中の規制機関や保健機関は、ガイドラインと監督体制の確立に取り組んでいます。世界保健機関（WHO）は、医療におけるAIの規制に関する考慮事項を発表し、透明性と文書化を強調しています。米国では、ジョー・バイデン大統領のAIに関する大統領令や健康データ、技術、相互運用性（HTI-1）最終規則を含む連邦政府の取り組みが、医療分野におけるAIの安全性、セキュリティ、信頼性を確保することを目的としています。州法も登場しており、カリフォルニア州のAB 3030のように、医療提供者に対し、患者にAIの使用を開示し、同意を得ることを義務付けているものもあります。これらの取り組みにおける重要な原則は、AIが医療決定の唯一の根拠であってはならないということです。人間のレビューと監督が依然として最重要です。FDAも、AI対応医療製品の規制を積極的に強化しており、イノベーションと患者安全の両方を確保するために、柔軟でありながら科学に基づいたフレームワークに焦点を当てています。

AIは臨床ワークフローを強化し、医療専門家を支援する immenseな可能性を秘めていますが、この事件は、これらのツールが資格のある医療アドバイスの代わりにはならないという強力なリマインダーとして機能します。AIが私たちの日常生活に統合され続けるにつれて、堅牢な安全対策、明確な免責事項、厳格な検証、そして最も重要なこととして人間による監督の継続的な必要性は否定できません。