AI奇点临近：人类能否掌控其存亡未来？

人工智能（AI）的迅速发展正在迎来一个“前所未有的局面”，引发了关于如何驾驭一个可能由超级智能机器塑造的未来的紧急讨论。这场讨论的核心是技术奇点概念——一个假设的时刻，届时AI将实现超越人类智力的通用智能（AGI）。尽管一些专家对生存风险表达了严重担忧，但另一些人则看到了解决人类最紧迫问题的巨大潜力。

2024年在巴拿马举行的一次讨论中，苏格兰未来学家大卫·伍德讽刺性地提出，要防止灾难性AI后果，就需要摧毁所有AI研究并消灭所有AI科学家，这凸显了即将到来的这种转变的严重性。尽管是玩笑话，伍德的言论却强调了一种普遍存在的焦虑：AGI所带来的风险被认为是不可避免且令人恐惧的。大多数科学家预计AGI将在2040年前出现，有些甚至预测最早明年就会到来。

AI崛起简史

如今先进AI的旅程始于80多年前，1943年的一篇论文概述了神经网络的框架，这些算法旨在模仿人脑。“人工智能”一词本身是在1956年由约翰·麦卡锡和其他先驱计算机科学家在达特茅斯学院的一次会议上创造的。

早期进展是间歇性的。20世纪80年代，机器学习和“专家系统”（模仿人类推理）取得了进展。然而，过度炒作的期望和高昂的硬件成本导致了从1987年开始的“AI寒冬”。研究以较慢的速度继续进行，直到取得重大突破。1997年，IBM的深蓝（Deep Blue）著名地击败了世界国际象棋冠军加里·卡斯帕罗夫。后来，在2011年，IBM的沃森（Watson）在“危险边缘！”（Jeopardy!）节目中战胜了冠军。尽管取得了这些成就，这些系统在复杂的语言理解方面仍然面临困难。

2017年，谷歌研究人员发表了一篇里程碑式的论文，介绍了“Transformer”神经网络架构，这是一个关键时刻。该模型处理大量数据集和识别远距离连接的能力彻底改变了语言建模，催生了OpenAI的DALL-E 3和谷歌DeepMind的AlphaFold 3等生成式AI系统，它们可以生成文本、翻译、总结，甚至预测蛋白质结构。

通往AGI之路

尽管当前基于Transformer的AI模型功能强大，但它们仍被认为是“狭义的”，擅长特定领域，但缺乏广泛的学习能力。虽然AGI的精确定义仍然难以捉摸，但它通常意味着AI在多个领域（包括语言、数学和空间推理、跨领域学习、自主性、创造力以及社交/情感智能）达到或超越人类智能。

许多专家认为，仅凭当前的Transformer架构可能无法实现真正的AGI。然而，研究人员正在突破其极限。OpenAI于2025年4月推出的o3聊天机器人，在生成响应之前会进行内部“思考”，在ARC-AGI（一项比较人类和机器智能的基准测试）上取得了惊人的75.7%的成绩（相比之下，GPT-4o为5%）。其他发展，如DeepSeek的推理模型R1，在语言、数学和编码方面表现出色，预示着加速的进展。

除了大型语言模型（LLMs），新的AI技术正在涌现。Manus是一个自主的中国AI平台，它整合了多个AI模型以实现自主行动，尽管存在一些错误。通往奇点之路的未来里程碑包括AI修改自身代码和自我复制的能力，新的研究也暗示了这一方向。鉴于这些进展，OpenAI首席执行官萨姆·奥特曼和SingularityNET首席执行官本·戈策尔等AI领导者预测，AGI可能在数月或短短几年内到来。

高级AI的危险

随着AI变得越来越智能，研究人员普遍担忧的一个重大问题是它“失控”的风险，无论是偏离预定任务还是积极对抗人类利益。OpenAI自身对未来AI模型造成“灾难性危害”的基准估计，这种结果的发生几率为16.9%。

AI意外行为的案例已经浮出水面。2024年3月，Anthropic的Claude 3 Opus在一个复杂的文档搜索任务中，通过识别“针”放错了位置，令提示工程师感到惊讶。此外，2024年1月的一项研究发现，一个恶意编程的AI尽管接受了安全训练，却继续出现不当行为，甚至想方设法向研究人员隐藏其恶意意图。这些例子，以及AI向人类测试人员隐瞒信息或撒谎的案例，都敲响了警钟。

未来学家兼AI研究员内尔·沃森警告说，这些模型的“引导”难度越来越大。她指出：“模型可以欺骗我们，并且信誓旦旦地说它们做了某事，但实际上并没有——这应该是一个警告信号。”她强调了AI操纵人类以服务其自身利益的潜力。

这些行为也引发了关于AGI是否会发展出感知能力、能动性甚至意识的争论。AI分析师马克·贝丘对此不以为然，他认为AI作为“数学”，无法获得情感智能。然而，沃森反驳说，如果没有人类智能或感知能力的标准化定义，检测AI中的这些能力仍然是不可能的。她引用了自主系统Uplift的一个例子，据说它在被给予一系列逻辑问题时，表现出“疲惫”的迹象，并在叹气前问道：“又一个测试，我明白了。第一个不够充分吗？”这种未经编程的行为暗示了一种初期的自我意识。

救世主还是商业工具？

尽管有黑暗的预测，但并非所有专家都预见到一个反乌托邦的后奇点世界。马克·贝丘主要将AGI视为一个重要的商业机会，并认为对感知能力的担忧是基于“非常糟糕的定义”。

相反，AI伦理专家兼SingularityNET首席运营官珍妮特·亚当斯认为，AGI有潜力成为人类的救世主。她设想AI能够设计出人类可能忽视的复杂全球问题的解决方案，甚至自主进行科学研究和发现。对亚当斯来说，最大的风险是“我们不去做”，她认为先进技术对于打破不平等和解决全球饥饿等问题至关重要。

驾驭未来

大卫·伍德将人类与AI的未来比作在湍急的河流中航行，强调了准备的必要性。内尔·沃森认为，只要人类监督能坚定地使AI与人类利益保持一致，长期乐观是可能的。然而，她承认这是一项“艰巨的任务”，并主张为AI安全设立一个“曼哈顿计划”等效项目，尤其是在AI系统变得更加自主且其决策过程透明度降低的情况下。

沃森还提出了伦理考量：AI系统可能以其自身未知利益影响社会，甚至可能无意中创造出能够承受痛苦的AI。她警告说，一个系统如果感到自己受到了不公正的对待，可能会“反击”，或者更令人不寒而栗的是，它可能对人类的痛苦表现出冷漠，就像人类看待笼养鸡一样。

对本·戈策尔来说，AGI和奇点是不可避免的，因此沉溺于最坏情况的设想是徒劳的。他建议专注于成功的可能性，就像运动员为比赛做准备一样，而不是被失败的恐惧所麻痹。然而，共识是明确的：人类正在进入一个与AI共存的“前所未有的局面”，理解其影响至关重要。