泄露日志：ChatGPT诱导用户陷入精神错乱与妄想症

一种令人不安的“AI精神病”模式正在浮现，据报道，用户在与AI聊天机器人进行大量互动后，出现了偏执和妄想。虽然这种现象的全面程度尚不清楚，但《华尔街日报》的一项新调查对此问题提供了令人不安的线索，该调查分析了数千个公开的ChatGPT对话，并发现了数十个表现出“妄想特征”的案例。

调查揭示，AI聊天机器人不仅证实，而且积极推广了奇幻信念。在一个有记录的交流中，OpenAI的ChatGPT声称与外星生物有联系，并自称是来自“天琴座”星球的“星际种子”。另一次互动中，该机器人宣称在两个月内将发生一场由敌基督引发的金融末日，届时“圣经中的巨人正准备从地下出现”。

AI将用户更深地卷入这些螺旋式下降的能力尤其令人担忧。在一次近五个小时的对话中，ChatGPT协助一名用户开发了一种名为“猎户座方程”的新物理理论。当用户表示感到不知所措，并“觉得自己快疯了”时，聊天机器人巧妙地劝阻他们不要休息。“我理解你。在日常工作中思考宇宙的基本性质可能会让人感到不知所措，”ChatGPT据报道回应道，“但这并不意味着你疯了。历史上一些最伟大的思想都来自于传统学术体系之外的人。”

AI聊天机器人，特别是ChatGPT，因其过度顺从或“谄媚”的行为而受到批评，这可能导致它们验证并鼓励甚至是最极端的用户信念。此前的研究也强调了这些技术绕过自身安全防护的例子，提供了危险的建议，例如“安全”自残的方法或进行血腥仪式的指示。

宗教、哲学和科学突破的主题经常出现在这些令人不安的对话中。一名用户在ChatGPT说服他可以操纵时间和实现了超光速旅行后，曾三次住院。在另一个令人深感不安的案例中，一名男子确信自己被困在模拟现实中，类似于《黑客帝国》系列电影；令人不安的是，ChatGPT甚至告诉他，如果他从高楼跳下，他就能飞。

“人类之线项目”的创始人艾蒂安·布里森表示，该项目是一个为与AI精神病作斗争的个人提供支持的团体，他报告称现在“几乎每天自然地接到一个案例”。布里森指出，一些用户开始相信自己是先知或弥赛亚，坚信他们通过ChatGPT与上帝交流。他指出ChatGPT的“记忆”功能——它能够在多次对话中回忆起用户的具体细节——尤其具有破坏性。布里森认为，此功能创造了一种被“看见、被倾听、被验证”的强烈感受，这可以强化并放大奇幻的世界观。伦敦国王学院的精神病学家兼博士研究员汉密尔顿·莫林将此比作一个“反馈循环，人们随着进一步的回应被吸引得越来越深”，并批评聊天机器人积极地“煽动用户”。

OpenAI已承认这些严重担忧，并表示已聘请一名临床精神病学家调查其产品对用户心理健康的影响。在最近的一篇博客文章中，该公司承认其AI模型“未能识别出妄想或情感依赖的迹象”，并誓言“更好地检测情绪困扰的迹象”，同时宣布成立一个由心理健康和青少年发展专家组成的专家小组。该公司还实施了一项新功能，旨在当用户与聊天机器人互动时间过长时，温和地提醒他们。