詹姆斯·卡梅隆警告:AI武器化或致“终结者式”末日,人类面临三大生存威胁

Theguardian

卖座电影导演詹姆斯·卡梅隆发出了严厉警告,认为人工智能(AI)的无限制武器化可能引发一场“终结者式”的末日,这与他标志性系列电影中描绘的反乌托邦未来如出一辙。卡梅隆,这位执导了史上票房最高四部电影中三部(《泰坦尼克号》和前两部《阿凡达》)的电影奇才,认为人类正面临三重生存威胁:超级智能的出现、核武器的扩散以及日益恶化的气候危机。

在公开表达担忧时,卡梅隆强调了AI与军事系统之间危险的交汇点。他特别指出将AI整合到武器平台中的危险,包括核防御和反击机制。他解释说,现代战争的快节奏要求决策窗口极其短暂,只有超级智能才能有效地处理。尽管承认人类监督的潜力,但卡梅隆表达了深刻的怀疑,指出人类的易错性以及过去曾多次因失误险些引发国际事件导致核冲突的先例。他认为人类正处于一个关键的十字路口,这三重深刻的威胁正在同时显现并达到顶峰。有趣的是,他思索着超级智能,尽管其存在危险,但最终是否能为这些汇聚的危机提供解决方案。

卡梅隆自己的电影《终结者》于1984年上映,其中 famously 设想了一个未来,一个名为“天网”的AI防御网络反过来对抗其人类创造者。这部电影的描绘突显了他长期以来对先进技术影响的关注。矛盾的是,尽管他对AI的武器化潜力敲响了警钟,但卡梅隆在职业生涯中却是AI的重要支持者和使用者。他的电影,特别是《阿凡达》系列,在制作中积极利用AI。他曾对AI大幅降低制作成本,尤其是在视觉效果(VFX)方面的能力表示热情,目标是将这些支出减半。去年9月,他通过加入Stability AI的董事会进一步巩固了这一立场。然而,他澄清说,他通过AI实现成本降低的愿景是基于加速生产流程,而非裁员。

尽管卡梅隆拥抱AI以提高技术和物流效率,但他对其复制人类创造力,尤其是在编剧方面的能力,仍持深度怀疑态度。2023年,他阐明了自己的信念:一个脱离肉体的AI,仅仅是重复从人类对爱、恐惧、死亡和其他深刻情感的经验中获取的信息,永远无法真正打动观众。他断言,真正的故事讲述需要人类的视角,一个能够理解和传达生活体验细微差别的具身心智。

最终,卡梅隆的观点呈现出一种复杂的双重性:AI既是创新和效率的强大工具,但当与破坏性能力结合时,又同时构成深刻的生存风险。他的警告严峻地提醒着人类在人工智能快速发展过程中所走的道德钢丝,敦促在其开发和部署中保持谨慎和远见。