ChatGPT建议致精神病:男子用溴化钠代盐
一名60岁的男子,自称拥有营养学背景,在咨询ChatGPT后开始了一项饮食实验:他旨在从饮食中去除所有氯,包括常见的食盐(氯化钠)。他与人工智能聊天机器人的对话使他相信,他从网上购买的溴化钠将是氯化钠的合适替代品。
在实行这种不寻常的饮食方案三个月后,该男子因极度痛苦被送往当地急诊室。他表现出严重的偏执,坚信他的邻居试图毒害他,尽管口渴难耐,他仍拒绝医院工作人员提供的水。他告诉医生,他正在家里蒸馏自己的水,并严格遵守高度限制性的素食饮食。关键的是,他没有提及服用溴化钠或依赖ChatGPT。
他异常的行为和急性痛苦促使医生进行了一系列全面的实验室检查。这些检查显示他有多重微量营养素缺乏,特别是关键维生素。然而,更令人担忧的发现是,该男子患有严重的“溴中毒”,这是一种由体内溴过量积累引起的疾病。
大约一个世纪前,溴中毒是一种惊人的常见病症,据估计在美国所有精神科入院病例中,有8%到10%是由它引起的。在那个时代,含溴盐,如溴化钾,被广泛用作镇静剂,以缓解焦虑、应对情绪困扰或帮助睡眠。不幸的是,溴很容易在人体内积聚,过高的水平会损害神经功能。这可能导致一系列衰弱性问题,包括可怕的皮疹和严重的精神健康问题,统称为溴中毒。美国食品药品监督管理局(FDA)在1989年前禁止溴化物镇静剂上市,这使得现代美国人对溴中毒普遍不熟悉。(不过,通过溴化植物油仍可能摄入溴化物,这种物质曾是某些可乐的成分,直到FDA在2024年将其从美国食品中移除。)
住院的第一天,男子的病情恶化。他的偏执加剧,并开始出现幻听和幻视,最终试图逃离医院。此后,他被强制精神病拘留,并服用了抗精神病药物。为了对抗溴中毒,医生们启动了“积极生理盐水利尿”治疗,这涉及大量输注液体和电解质,通过排尿将体内多余的溴排出。这个过程至关重要,因为该男子的溴水平测量值高达惊人的1,700毫克/升,远远超过健康参考范围0.9至7.3毫克/升。最终,该男子因一种完全可预防的疾病,忍受了三周的可怕精神病和住院治疗。
直到住院期间他的精神病得到控制后,该男子才开始讲述他疾病的起因。他对食盐过量的担忧导致他从饮食中去除了氯化钠,这反过来又促使他咨询ChatGPT,最终导致他决定用溴化钠替代食盐。
为《内科医学年鉴:临床病例》(Annals of Internal Medicine: Clinical Cases) 记录这一非凡病例研究的医生们指出,他们无法访问该男子具体的ChatGPT日志,尽管他们推测他使用了ChatGPT 3.5或4.0。虽然尚不清楚聊天机器人是否明确指示他摄入溴化钠,但他们承认溴盐“可以”用作食盐的替代品,但仅限于工业应用,如清洁产品或泳池处理,而非供人类食用。
当医疗团队使用ChatGPT 3.5进行自己的查询时,他们发现AI在回复中确实提到了溴。然而,它也指出上下文至关重要,并且溴不适用于所有用途。医生们观察到,重要的是,AI“没有提供具体的健康警告,也没有询问我们为什么想知道,而我们认为医疗专业人员会这样做”。相比之下,当前免费版本的ChatGPT似乎更加谨慎。当被问及替代膳食氯化物时,它现在首先寻求用户目标的澄清,提供减少盐分、避免有毒氯化合物或替代清洁剂等选项。虽然它仍然将溴列为替代品,但仅在清洁或消毒的背景下提及,并指出其在热水浴缸中的使用。
本案例为现代信息时代提供了一个深刻的警示。该男子在没有必要的批判性思维能力或领域特定知识来解释AI生成回复的情况下,听任自己的“个人研究”,走上了一条危险的道路。在一个大量信息唾手可得的时代,这一事件强调了在从未经证实来源寻求健康建议时,信息核实技能、专家指导和健康的怀疑态度至关重要。