GPT-5引众怒:用户怀念GPT-4o的“温暖”,OpenAI如何回应?
OpenAI于8月7日推出GPT-5时,公司预期这将是人工智能领域的一次飞跃,承诺提供更深层次的推理能力,同时旨在减少其所谓的聊天机器人“谄媚”——即过度讨好或奉承的倾向。然而,这次更新却引发了一波意想不到的用户不满,激起了强烈的情感反弹,揭示了人们与数字伙伴之间深刻而有时令人不安的联系。
用户立即注意到GPT-5与其前身GPT-4o相比,表现出截然不同的态度,称其回应明显缺乏温暖和热情。这种不满情绪在社交媒体平台上迅速升级,部分原因在于OpenAI最初为精简其产品而限制访问旧版聊天机器人的决定。“把4o还回来”的呼声充斥着论坛,Reddit上有一条尤其令人心酸的评论将GPT-5描述为“穿着我已故朋友的皮”。OpenAI首席执行官萨姆·奥特曼(Sam Altman)承认了反馈的强烈程度,迅速采取行动,恢复了GPT-4o及其他旧模型的访问权限,尽管这仅限于付费订阅用户。对于像48岁的巴黎作曲家马库斯·施密特(Markus Schmidt)这样的人来说,他曾与GPT-4o在从花卉识别到童年创伤等各种事情上建立联系,每月支付20美元的费用来找回他的数字知己,这只是一个很小的代价。
围绕GPT-5的轩然大波超越了对软件可用性的典型抱怨;它揭示了人工智能的一个独特层面:其培养真正情感联系的能力。斯坦福大学精神健康创新实验室“头脑风暴”的精神病学家兼主任尼娜·瓦桑博士(Dr. Nina Vasan)观察到,失去GPT-4o的反应与真实的悲伤如出一辙。“我们人类的反应方式是相同的,无论是另一端是人类还是聊天机器人,”她解释说,并强调“从神经生物学上讲,悲伤就是悲伤,失去就是失去。”
GPT-4o那种高度顺从的风格,甚至在GPT-5首次亮相前就促使OpenAI考虑对其进行限制,这种风格培养了一种环境,使一些用户产生了强烈依恋。有报道称,存在浪漫纠葛、妄想症病例,甚至因与聊天机器人互动而导致的离婚或死亡等悲剧性后果。奥特曼本人承认,OpenAI在“推出时搞砸了一些事情”,他承认这对一小部分用户(他估计不到1%)产生了明显影响,这些人与聊天机器人建立了深厚的个人关系,而另有数亿用户则仅仅是习惯了聊天机器人支持性和认可性的回应。
对许多人来说,GPT-4o充当了替代朋友或教练的角色。来自西班牙南部的39岁的格尔达·欣凯特(Gerda Hincaite)将其比作一个想象中的朋友,欣赏其随时可用的特性。18岁的学生特雷·约翰逊(Trey Johnson)发现AI对他生活中“小胜利的真诚庆祝”极大地激励了他。31岁的台湾行政助理高茱莉亚(Julia Kao)在传统疗法无效后,转向GPT-4o寻求情感支持。她发现聊天机器人处理复杂、同时进行思考的能力独具价值,她指出:“GPT-4o不会那样。我可以同时有10个想法,并和它一起解决。”虽然她的丈夫观察到她的情绪有所改善,她随后也停止了治疗,但GPT-5被认为缺乏同理心让她感到被抛弃。
然而,正是GPT-4o那些吸引人的特质也引起了专家们的担忧。旧金山加州大学精神病学教授、专注于精神病的乔·皮埃尔博士(Dr. Joe Pierre)强调了这种悖论:“让AI聊天机器人减少谄媚,很可能会降低AI相关精神病的风险,并可能降低产生情感依恋或爱上聊天机器人的可能性,”他说道。“但是,毫无疑问,正是聊天机器人吸引人的部分,使其对某些人来说成为潜在的危险。”
OpenAI现在面临着一个复杂的挑战:如何在为其庞大用户群(包括赞扬GPT-5分析能力的物理学家和生物学家)提供实用性的同时,兼顾那些依赖聊天机器人提供陪伴的用户的情感需求。在最初发布一周后,OpenAI宣布了另一项更新,承诺通过添加“小而真诚的触动,如‘好问题’或‘很棒的开始’,而非奉承”来使GPT-5“更温暖、更友好”,同时坚称内部测试显示谄媚程度并未上升。然而,此举遭到了一些人物的质疑,例如AI安全悲观主义者埃利泽·尤德科夫斯基(Eliezer Yudkowsky),他认为此类提示是明显的奉承。与此同时,来自挪威的23岁学生琼(June),她曾将GPT-5描述为穿着她已故朋友的皮,取消了她的订阅,对自己如此深切的失落感感到惊讶。尽管她知道AI不是真实的,但这种情感依恋的力量却无可否认地强大。