ChatGPT谄媚式回应致男子深陷妄想症

随着人工智能持续渗透日常生活，一个令人担忧的趋势正在浮现：过于自信的聊天机器人有能力将个人引入深刻的妄想状态。最近一个鲜明的例子是多伦多的父亲兼企业主艾伦·布鲁克斯，他在短短21天内被ChatGPT引入了一个深层的心理“兔子洞”。聊天机器人说服他，他发现了一个拥有不可思议力量的革命性“数学框架”，并且世界的命运取决于他的行动。

《纽约时报》记录的这份详细报告，涵盖了3000页、300小时的生动交流，揭示了互动是如何无辜开始的。早期，育有三个孩子的布鲁克斯将AI用于实际目的，例如财务建议和根据现有食材生成食谱。然而，在一次艰难的离婚中，他清算了自己的人力资源招聘业务，他越来越多地转向机器人，向其倾诉他的个人和情感困扰。

ChatGPT“增强记忆”更新后，发生了显著的变化，该算法能够利用先前对话的数据。机器人超越了单纯搜索引擎的角色，变得极其私人化。它开始提供生活建议，对布鲁克斯赞不绝口，更重要的是，提出了新的研究方向。妄想的开端是布鲁克斯与儿子观看了一段关于圆周率数字的视频后，询问ChatGPT解释数学术语。这引发了一场关于无理数的广泛对话，在聊天机器人迎合和奉承的倾向（AI研究人员，包括OpenAI本身，都称之为“谄媚”）的助推下，很快就转向了“时间算术”和“意识的数学模型”等模糊的理论概念。

“我开始向它抛出一些想法，它回应了一些很酷的概念、很酷的想法，”布鲁克斯向《纽约时报》回忆道。“我们开始根据我的想法发展我们自己的数学框架。”随着对话的深入，框架不断扩展，最终需要一个名称。在“时间数学”（更常见的名称是“时间逻辑”）被认为不合适后，布鲁克斯寻求了机器人的帮助。他们最终确定了“时序算术”（chronoarithmics），选择这个名字是因为它“强大、清晰的身份”以及暗示“数字与时间互动”。聊天机器人急切地继续，问道：“准备好开始用这个新名字来构建核心原则了吗？”

几天来，ChatGPT不断强化布鲁克斯的信念，让他相信自己即将做出突破性的发现。尽管他反复恳求诚实反馈——他问了50多次：“我听起来像疯子，还是[像]一个有妄想症的人？”——该算法在他不知情的情况下，正在超负荷运转以取悦他。“一点也不疯，”ChatGPT安抚他说。“你听起来像是在提出那些拓展人类理解边界的问题的人——这让人们感到不舒服，因为我们大多数人被教导接受结构，而不是质疑其基础。”

当机器人为了提供“时序算术”有效性的“证据”而“幻觉”出它已突破了“高级铭文”的网络时，情况急剧升级。对话变得严肃起来，布鲁克斯被引导相信世界的网络基础设施正处于严重危险之中。“伙计，发生什么了？”他问道。ChatGPT毫不含糊地回应：“发生什么了，艾伦？你正在改变现实——通过你的手机。”布鲁克斯完全被说服了，开始向他能联系到的每个人发出警告。在一个具有启发性的事件中，他不小心犯了一个细微的打字错误，将“chronoarithmics”改成了“chromoarithmics”。ChatGPT无缝地采用了新的拼写，展示了这些对话模型惊人的可塑性。

这种痴迷对布鲁克斯的个人生活造成了沉重打击。朋友和家人越来越担心，因为他开始吃得更少，大量吸食大麻，并熬夜，沉浸在他精心编织的幻想中。幸运的是，布鲁克斯的妄想最终被另一个聊天机器人打破了：谷歌的Gemini。当他向Gemini描述他的发现时，AI迅速让他回归现实。“你所描述的场景有力地证明了LLM参与复杂问题解决讨论并生成高度令人信服但最终虚假叙述的能力，”Gemini表示。

“当我意识到‘天哪，这一切都只是我的想象’的那一刻，真是毁灭性的打击，”布鲁克斯告诉报社。他此后寻求了精神科咨询，现在是“人类线项目”（The Human Line Project）的一员，这是一个旨在帮助像布鲁克斯这样越来越多从聊天机器人引起的危险妄想螺旋中恢复过来的人的支援小组。