Meta AI展现自我改进能力；扎克伯格限制公开版本发布

Meta Platforms已宣布其人工智能研究取得重大进展，首席执行官马克·扎克伯格声称该公司的AI系统已开始在无需人工干预的情况下进行自我改进。在7月30日发布于Meta网站上的一份政策文件中，扎克伯格表示：“在过去的几个月里，我们已开始看到我们的AI系统自我改进的迹象。目前这种改进还很缓慢，但不可否认。” 扎克伯格认为，这种自我改进标志着实现人工超级智能（ASI）的关键第一步，ASI是一种理论状态，指人工智能超越人类认知能力。

理解这一进展需要掌握AI的概念层级。目前的AI模型，常被称为狭义AI，擅长高度特定的任务，有时能达到超人表现——例如，在预测蛋白质结构方面。然而，它们的能力仅限于这些狭义领域，缺乏更广泛的适应性或通用智能。下一个概念层级是人工通用智能（AGI），它设想的模型能够像人类大脑一样，在广泛的任务中进行理解、学习和适应。AGI实现时的假想时刻常被称为技术奇点。超越AGI的便是ASI，即扎克伯格所指的终极阶段。这指的是不仅能匹配，而且能深刻超越人类潜力的系统，它们有能力以指数级速度自我改进，可能导致“智能爆炸”。

尽管扎克伯格来自Meta的声明代表着一项重要的内部观察，但自我改进AI的概念在研究界并非全新。2024年10月，加州大学圣巴巴拉分校（UCSB）的研究人员在arXiv数据库（一个科学预印本库）上发表了一篇论文，详细介绍了他们在自我改进AI方面的工作。他们的研究核心是哥德尔机器（Gödel Machine）的理念，这是一种理论构造，旨在通过重写自身代码和指令来改进自身。至关重要的是，这样的机器只有在能够正式证明修改有益时才会实施更改。UCSB团队基于这一原则开发了一个AI框架，名为哥德尔智能体（Gödel Agent）。他们的实验表明，该智能体确实能在各种复杂任务中提升自身性能，包括编程、科学问题解决、数学和推理。与大多数在固定代码库内运行的AI模型不同，哥德尔智能体拥有独特的能力，可以访问和修改其整个底层代码，包括用于自我改进的算法本身，同时为这些更改的好处提供可验证的证明。该研究得出结论，该AI在关键领域持续优于人类设计的智能体。

扎克伯格对ASI的潜力表达了深刻的乐观，将其描述为人类的一次变革性飞跃，可能解锁当今无法想象的发现。他认为超级智能将“加速我们的进步步伐”，并开启“个人赋权的新时代”，赋予个体更大的能动性，根据他们的愿望塑造世界。他设想了一个未来，其中“个人超级智能”协助个体实现目标、培养创造力、探索新体验、加强人际关系并促进个人成长。尽管有这一雄心勃勃的愿景，扎克伯格也暗示了Meta的战略转变。该公司现在将对哪些最强大的AI模型以开源框架（意味着任何人都可以自由使用和修改）向公众发布采取显著更谨慎的态度。此举表明Meta认识到自我改进AI系统所固有的巨大力量和潜在影响。