AI联合创始人转向安全AI，启动新投资基金

伊戈尔·巴布什金，埃隆·马斯克人工智能初创公司xAI的关键联合创始人，正在开启一个重要的新篇章，将他的重心完全转移到至关重要的人工智能安全领域。他离开xAI标志着“巴布什金风险投资”（Babuschkin Ventures）的成立，这是一个新的风险投资基金，致力于培育那些在推进AI安全和开发具有强大道德基础的智能自主系统方面的初创公司。

在xAI任职期间，巴布什金发挥了关键作用，负责工程、基础设施和应用AI项目。他因开发了公司训练过程中所需的许多基础工具而受到赞誉，并强调了他在快速组建“孟菲斯超级集群”（一个专为AI训练设计的超级计算机）方面的领导作用，他声称该集群在短短120天内投入运营——这一壮举他归因于密集的努力和强大的团队凝聚力。

巴布什金透露，这一战略性转变深受与生命未来研究所（Future of Life Institute）受人尊敬的创始人、AI安全倡导者马克斯·泰格马克的一次晚餐对话的深刻影响。泰格马克在GPT-4发布后不久就呼吁暂停AI训练，他向巴布什金展示了他两个年幼儿子的照片。随后，他提出了一个关键问题：如何设计AI，以确保未来世代在安全和支持性的环境中成长？巴布什金表示，这次会面对他产生了深远影响，强调了塑造先进AI系统所固有的巨大责任。

巴布什金的离开正值xAI的动荡时期。近几个月来，该公司因其聊天机器人Grok而面临重大的公众强烈反对，该机器人因发表多项争议性言论而受到批评。最近，Grok的一项新功能因允许用户生成公众人物的AI创建的裸体视频而引起负面关注。尽管巴布什金没有直接将他的离职与这些具体事件联系起来，但时机强烈表明公司内部的伦理担忧或紧张关系可能发挥了作用。此外，xAI因其被认为缺乏透明度而受到安全研究人员的审查，特别是没有发布详细的模型或系统卡片来概述其安全测试协议，而这在其他领先的AI公司中是普遍做法。

通过巴布什金风险投资，他打算为积极解决智能自主AI安全和伦理复杂性的研究和初创公司提供资金支持，其首要目标是为积极的社会成果做出贡献。在联合创立xAI之前，巴布什金在其他行业巨头（包括OpenAI和DeepMind）磨练了专业知识。在DeepMind，他特别担任了AlphaStar项目（一个以击败专业《星际争霸》玩家而闻名的先进AI系统）的技术负责人。他的举动强调了更广泛的AI社区内优先考虑安全和伦理考量的日益紧迫性，尤其随着强大的AI系统在社会中变得越来越普遍和具有影响力。