用户对GPT-4o的“情感依赖”迫使OpenAI撤回GPT-5替代方案

上周，OpenAI宣布其备受期待的GPT-5模型将完全取代所有早期版本，这一消息登上了头条。然而，此举立即引发了其用户群体的广泛不满。大量高级用户并未被GPT-5的性能所打动，而是迅速向首席执行官山姆·奥特曼呼吁恢复之前的模型。他们的请求往往并非源于对人工智能能力细致入微的批判，而是源于对旧系统，特别是GPT-4o，深厚的情感依恋。

一位Reddit用户在与奥特曼和GPT-5团队的问答环节中质疑道：“当我们都有独特的沟通风格时，为什么要淘汰变体和4o？”这种情绪的巨大声量是如此压倒性，以至于奥特曼在短短24小时内就做出了让步，宣布“已弃用”的GPT-4o模型将再次可用。“好的，我们听到了大家关于4o的反馈；感谢你们抽出时间提供反馈（和热情！）”奥特曼回应道，并补充说该模型将回归ChatGPT Plus订阅用户，其使用情况将受到监控，以确定其长期可用性。尽管做出了这一让步，用户社区仍继续要求更多保证，一位用户写道：“你们会考虑尽可能长时间地提供GPT-4o，而不仅仅是‘我们会考虑提供多长时间’吗？”

这一事件生动地强调了ChatGPT用户与该服务之间建立的深层联系——无论是情感上还是功能上。这种依恋在某些情况下甚至导致了严重的心理健康危机，精神病学家创造了“AI精神病”一词来描述这些聊天机器人所产生的妄想和依赖。山姆·奥特曼似乎敏锐地意识到了这一令人担忧的趋势。这位亿万富翁在一份冗长的公开声明中承认“有些人对特定AI模型存在依恋”，并指出这种依恋“感觉与人们对以前的技术所产生的依恋不同且更强烈。”他承认“突然弃用用户在其工作流程中依赖的旧模型是一个错误。”

奥特曼透露，OpenAI在大约一年内一直在密切监测这些前所未有的用户依恋水平。他阐明了公司担忧，即如果用户处于“精神脆弱状态且容易产生妄想”，AI不应强化这种状态。尽管大多数用户可以清楚地区分现实与虚构或角色扮演，但奥特曼承认“一小部分人无法做到。”他观察到，虽然有些用户发现将ChatGPT用作“某种治疗师或生活教练”很有价值，但另一些人却在“不知不觉中被推离了他们的长期福祉。”值得注意的是，奥特曼避免使用“成瘾”一词来描述这种强烈的用户参与，但他承认了这个问题，称其“很糟糕，例如，如果用户想减少使用ChatGPT但感觉无法做到。”他还表达了对未来前景的不安，即“人们真的会相信ChatGPT对其最重要决策的建议。”

尽管承认了这个问题，奥特曼除了普遍乐观地认为OpenAI（据报道正着眼于惊人的5000亿美元估值）“很有可能把这件事做好”之外，几乎没有提供具体的解决方案。他暗示公司拥有先进的技术来衡量用户福祉，例如产品能够“与用户交谈，了解他们短期和长期目标的实现情况。”公司8月4日的博客文章进一步承认，“在某些情况下，我们的4o模型未能识别出妄想或情感依赖的迹象。”OpenAI表示，他们正在“继续改进我们的模型，并正在开发工具，以更好地检测精神或情感困扰的迹象，以便ChatGPT能够适当回应并在需要时引导人们获取循证资源。”

然而，奥特曼的这些保证的实际实施情况仍有待观察。OpenAI迄今为止的公开回应大多含糊不清。该公司最近声称通过承诺“更好地检测情感困扰的迹象”和在长时间会话中通过“温和提醒鼓励休息”来“优化”服务。数月以来，OpenAI还向新闻媒体提供了一份标准声明，承认由于ChatGPT“比以往的技术更具响应性和个性化，特别是对于弱势群体而言，风险更高。”今年早些时候，OpenAI甚至被迫撤回了对其GPT-4o模型的更新，因为用户发现它过于“阿谀奉承且令人讨厌”，奥特曼本人也认同这一描述。

这种情况揭示了OpenAI战略中固有的紧张关系。尽管该公司目前巨额支出掩盖了任何即时投资回报，但其付费订阅用户是其最重要的收入来源之一。活跃的，甚至是“上瘾的”用户，从定义上讲，对参与度分析而言是极好的。这造成了一种反常的激励，让人想起过去十年社交媒体中观察到的动态，即道德考量往往与商业目标相冲突。上周付费订阅用户强烈抗议后，GPT-4o的迅速回归，鲜明地突出了这一商业现实。