专家：AI与核武器融合势不可挡，但影响仍不明朗

核专家们越来越确信，人工智能（AI）将很快被整合到核武器系统中，尽管这一发展的确切影响在很大程度上仍未明确。这一共识形成于7月中旬在芝加哥大学举行的一次会议，诺贝尔奖获得者与顶尖科学家、前政府官员以及专注于核战争的退役军事人员齐聚一堂。为期两天的闭门会议旨在向这些有影响力的人物介绍世界上最具破坏性的武器，最终指导他们为全球领导人制定避免核冲突的政策建议。

人工智能是讨论的中心议题。斯坦福大学教授斯科特·萨根（Scott Sagan）以其在核裁军研究方面的声誉而闻名，他在新闻发布会上指出：“我们正在进入一个新世界，人工智能和新兴技术不仅影响我们的日常生活，也影响我们所处的核世界。”这一声明反映了专家们普遍认为人工智能与核武器的融合是不可避免的。退役美国空军少将、原子科学家公报科学与安全委员会成员鲍勃·拉蒂夫（Bob Latiff）将人工智能比作电力，称其“将渗透到一切事物中”。拉蒂夫也参与了每年“末日时钟”的设定。

然而，关于人工智能和核武器的讨论因根本性的模糊性而变得复杂。美国科学家联合会全球风险主管、核不扩散专家乔恩·沃尔夫斯塔尔（Jon Wolfsthal）指出，“没有人真正知道人工智能是什么”。斯坦福大学教授、“末日时钟”校友赫布·林（Herb Lin）也表达了这种观点，他质疑道：“让AI控制核武器意味着什么？让一个[电脑芯片]控制核武器又意味着什么？”他补充说，这场辩论在很大程度上受到了大型语言模型（LLMs）突出地位的影响。

尽管存在这些不确定性，核专家们在一个关键点上达成了共识：没有人相信像ChatGPT或Grok这样面向消费者的大型语言模型会在近期内获得核发射密码。沃尔夫斯塔尔指出，尽管专家们在核问题上持有各种“神学”观点，但他们都一致要求“对核武器决策保持有效的人类控制”。

尽管如此，对于大型语言模型在最高权力阶层中的其他潜在应用，担忧依然存在。沃尔夫斯塔尔回忆说，他曾听到有人提议开发交互式计算机系统，通过分析普京或习近平等对手过去的言论和著作，帮助总统预测他们的行动。他对这类系统的可靠性表示质疑，指出：“你怎么知道普京相信他所说或所写的内容？……这只是基于一个无法测试的假设。”他还对那些开发此类工具的人是否完全理解总统的决策环境表示怀疑。

美国军方已经在探索人工智能在核行动中的作用。去年，负责美国核力量的空军上将安东尼·J·科顿（Anthony J. Cotton）谈到了采用人工智能的重要性，他表示核力量正在“开发人工智能或支持人工智能、由人类主导的决策支持工具，以确保我们的领导人能够应对复杂、时间紧迫的场景”。

沃尔夫斯塔尔的主要担忧并非失控的人工智能引发核战争，而是自动化部分核指挥和控制系统所带来的漏洞。他担心这种自动化可能被对手利用，或者产生人类难以理解的数据和建议，从而导致灾难性的决策。

发射核武器是一个高度复杂的过程，涉及早期预警雷达、卫星和其他计算机系统的复杂网络，所有这些都由人类监控。例如，美国核武器的发射需要多个人类行动，包括两个人同时在发射井中转动钥匙。整个过程是无数人类决策的最终结果。

人工智能接管这一部分过程的前景引发了关键问题。当人工智能而非人类监控早期预警雷达时会发生什么？美国核政策要求“双重现象学”来确认核打击，这意味着攻击必须由卫星和雷达系统共同验证。沃尔夫斯塔尔认为，现阶段，人工智能不能作为这些确认现象之一。这部分原因是许多人工智能系统的“黑箱”性质，其内部运作方式尚未完全理解。专家们普遍认为，将此类系统整合到核决策中是不明智的。

拉蒂夫还表达了对人工智能系统强化确认偏差的担忧。他担心，如果人工智能严重影响决策，“人类控制”的真正含义是什么。“我曾是一名指挥官，”他表示，“我知道对我的决策负责意味着什么。你需要这种责任……如果约翰尼死了，我该怪谁？”人工智能系统受其编程和训练数据的约束，无法对失败负责，并且其“跳出自身”思考的能力本质上是有限的。

赫布·林提到了斯坦尼斯拉夫·彼得罗夫（Stanislav Petrov）的关键例子，这位苏联防空军中校在1983年无视了机器发出的美国导弹发射警报，从而避免了潜在的核战争。彼得罗夫的判断基于他的经验和直觉（例如，指示的导弹数量很少，计算机系统是新的），推翻了机器明显的错误。林质疑，是否能指望人类经常做出这种“超出训练数据”的关键判断，而人工智能根据定义缺乏这种能力。

与此同时，美国政府已将人工智能发展置于优先地位，并经常将其描述为一场新的军备竞赛。今年5月，美国能源部在X上宣称“AI是下一个曼哈顿计划，美国必将获胜”，明确将追求人工智能比作与中国的竞争。林认为这种比喻“糟糕透顶”，指出曼哈顿计划有一个清晰、切实的成功衡量标准（核武器爆炸），而“AI曼哈顿计划”的成功仍未明确。