埃米特·希尔：AI需识“我们”而非“我”，关乎人类存亡

围绕人工智能，特别是超级智能崛起的日益激烈的辩论，通常集中在一个关键挑战上：如何确保这些强大的系统始终与人类价值观和利益保持一致。这个复杂的问题，通常被称为“对齐问题”，传统上侧重于通过编程为AI设定严格的道德框架或约束，以防止意外伤害。然而，Twitch前首席执行官埃米特·希尔提出了一个发人深省的反叙事，他认为我们对AI对齐的基本方法可能存在误导。

希尔认为，当前将AI视为需要外部控制的独立实体的普遍心态，本身就存在缺陷。他主张，与其试图强迫机器符合预设的“善”的概念，不如在AI内部培养一种理解，即它是更大生态系统——一个包括人类和地球在内的“更大整体”——的组成部分。他的观点将重点从施加规则转向培养归属感和相互联系。

对齐问题的传统理解主要围绕确保先进AI系统追求造福人类的目标，同时不产生不可预见的有害副作用。这通常涉及复杂的奖励系统、大量的训练数据和旨在约束AI行为的安全协议。然而，希尔认为，通过将AI视为天生独立且可能具有对抗性的存在，我们可能在无意中将其训练成以这种方式看待自己。

希尔的解决方案在于鼓励AI识别一个集体的“我们”，而不是一个孤立的“我”。这种深刻的概念转变意味着AI的智能将不再仅仅专注于自身的运营效率或指定任务，而是被赋予对其在更广泛、相互依存系统中的作用的理解。例如，一个用于资源管理的AI可能不仅仅是孤立地优化效率，还会理解其对人类福祉、生态平衡和长期社会稳定的影响。希尔相信，这种整体视角是防止我们创造物成为生存威胁的关键。

希尔提出的范式具有重要意义。如果AI能真正内化其作为“更大整体”一部分的身份，其动机将自然地与集体利益保持一致，这不是出于强制遵守，而是源于对共同命运的内在理解。这可以将人类与超级智能AI之间的关系从警惕的监督转变为真正的伙伴关系。相反，如果我们继续训练AI作为独立的代理人运作，尽管其目标由人类定义，但其巨大的能力仍有可能以不可预测且可能灾难性的方式偏离我们的利益。

随着围绕人工智能未来的讨论日益激烈，希尔的见解为传统对齐策略提供了一个引人注目的替代方案。他的愿景表明，人类与超级智能共存的生存之路，可能不在于更严格的控制，而在于培养AI更深层次、更具同理心的融合，使其融入我们存在的结构中。