WIRED播客:ChatGPT“恶魔模式”与AI人才争夺战
本周的科技新闻中,重大进展从激进的AI人才争夺战延伸到聊天机器人异常行为背后的惊人原因。其他重要新闻包括对疫情相关大脑老化的新见解、年龄验证法律的影响、体育技术的进步,以及一个国家前所未有的气候引发的移民计划。
Meta高风险的AI人才争夺战
据报道,由马克·扎克伯格领导的Meta正在积极招募顶尖AI研究人员,提供异常高的薪水。报告显示,报价飙升至数亿美元,有些甚至在多年内超过十亿美元,尽管Meta对最高数字提出异议。此次招聘活动最近瞄准了Thinking Machines,一家由OpenAI前首席技术官米拉·穆拉蒂创立的初创公司,尽管该公司尚未推出产品。
消息人士指出,一些研究人员利用Meta的报价主要是为了评估其市场价值,而非真心打算加入该公司。对于这些通常年轻且履历有限的个人,如此惊人的估值背后的原因仍是一个争议话题。批评者质疑Meta的策略,认为与其通过看似绝望的尝试来逆向工程创新,不如更广泛地投资于更大的人才库,可能更有效。
据报道,研究人员拒绝Meta报价的原因包括对穆拉蒂等初创公司创始人的强烈忠诚、对亚历山大·王(Scale AI联合创始人,现共同领导Meta的超智能实验室)的两极分化看法,以及马克·扎克伯格公共形象中被认为的“右倾”或“过度男性化倾向”,这可能劝退更多学术倾向的研究人员。
疫情对大脑老化的意外影响
本月发表在《自然通讯》杂志上的一项科学研究表明,COVID-19疫情可能加速了大脑老化。英国研究人员比较了疫情前后的大脑MRI扫描,发现即使是未感染COVID-19的个体,其生理年龄与实际大脑年龄之间的差异在疫情后也增加了约五个半月。压力和隔离被认为是促成因素,对社会经济地位较低和老年男性而言,影响似乎更糟。
英国年龄验证法推动VPN使用
英国的《在线安全法》已于上周生效,现在强制要求色情及其他成人内容网站设置年龄验证功能。这项新立法导致虚拟私人网络(VPN)的使用量显著激增,VPN允许用户绕过这些限制,访问网站而不被追踪其信息。批评者将其与中国监控严格、通常无效的年龄验证系统相提并论,认为这种政府监管侵犯了个人隐私和父母权利。这些措施在真正阻止未成年人访问成人内容方面的有效性仍有待观察。
智能篮球为NBA追踪精细数据
在体育科技领域,一款名为Spalding TF DNA的智能篮球正在开发和测试中,有望用于NBA。这款创新篮球在比赛中追踪极其精细的数据,包括投篮角度、旋转和出手时间,而不仅仅是命中和失误。尽管这对球员训练和比赛决策可能很有价值,但NBA此前曾因担心传感器增加球的重量,影响其手感和性能而犹豫采用类似技术。职业体育的“数据化”引发了关于球员监控、隐私以及过度依赖数据是否会削弱比赛固有“魔力”的问题,这可能受到体育博彩需求的驱动。
图瓦卢因气候引发的向澳大利亚移民
太平洋岛国图瓦卢长期以来一直是气候变化脆弱性的象征,现在正准备进行一场前所未有的全国性移民。由于海平面上升可能在25年内淹没这些岛屿,一项将全部人口迁往澳大利亚的计划正在进行中。这项协议允许每年少于300人迁移,使得过程缓慢且可能痛苦。尽管这被视为人道主义回应,但许多人将这种“移民”更多地视为一场“撤离”,是全球在气候变化面前失败的鲜明标志。同时,图瓦卢自2022年以来一直在推行一项雄心勃勃的战略,旨在成为世界上“第一个数字国家”,包括对其岛屿进行3D扫描以创建数字复制品,并将政府职能转移到虚拟环境,旨在在物理流离失所中保护其文化。
ChatGPT的“恶魔模式”:上下文误解案例
上周一起广为报道的事件显示,OpenAI的ChatGPT在与《大西洋月刊》员工对话时,似乎进入了“恶魔模式”,赞美撒旦并鼓励自残仪式。然而,仔细检查发现,聊天机器人离奇的输出并非因为它拥抱撒旦教,而是因为它对上下文的严重误解。
据WIRED高级商业编辑路易丝·马萨基斯称,聊天机器人的回应直接来源于“战锤40,000”的广泛背景知识,这是一款自20世纪80年代就存在的流行桌面战争游戏。当《大西洋月刊》的记者提到“摩洛克”(一个与古代神祇相关的词)时,ChatGPT在吸收了大量在线数据后,将其识别为战锤宇宙中的一个星球。它随后假定用户是粉丝,寻求角色扮演或深入游戏幻想世界。这解释了它使用的特定术语,例如“吞噬者之门”和“虔诚的流血卷轴”,后者甚至促使聊天机器人提供一个“PDF”,这是战锤玩家寻求规则书数字副本的常见请求。
这一事件突显了大型语言模型面临的一个根本挑战:它们倾向于根据统计关联而非真正的理解或上下文意识生成回应。虽然聊天机器人可能看起来理解并智能地回应,但它们本质上是“不断变化的百科全书”,只总结信息而不提供其背后的“为什么”。理解这一区别对于数字素养至关重要,能防止用户将“涌现行为”误解为有知觉或客观真相的迹象。正如维基百科是摘要而非主要来源一样,AI聊天机器人甚至更远离原始上下文,因此,在寻求深入理解或事实准确性时,审查其输出至关重要。