Anthropic收购Humanloop团队:强化企业级AI安全与工具

Theaiinsider

为了加强其企业级人工智能能力并重申对AI安全的承诺,Anthropic宣布收购了Humanloop的联合创始人及其大部分团队。Humanloop是一家总部位于伦敦的初创公司,以其AI提示词管理、模型评估和可观测性平台而闻名。此次“人才收购”将Humanloop的联合创始人Raza Habib、Peter Hayes和Jordan Burgess,以及大约十几名工程师和研究人员纳入Anthropic旗下,标志着其将更加专注于为企业提供强大的AI解决方案。

Humanloop成立于2020年,是伦敦大学学院的衍生公司,并获得了Y Combinator和Index Ventures等知名风险投资公司的支持。该公司通过开发一个简化大型语言模型(LLM)应用程序开发和优化的平台,开辟了市场利基。他们的产品包括协作式操作平台、复杂的提示词管理、部署控制以及为企业级使用设计的全面评估和监控套件。值得注意的是,Humanloop的“人机协作”(HITL)能力促进了人工反馈的整合,以完善模型预测,从而随着时间的推移提高准确性并减少偏见。该团队还带来了与Duolingo和Gusto等主要企业客户合作的宝贵经验。根据Humanloop的一份声明,他们从一开始的使命就是实现AI的安全快速采用,并且他们是首批制定AI管理和评估行业标准的公司之一。虽然此次收购侧重于人才,不包括Humanloop的知识产权或资产,但该初创公司已于2025年7月通知客户,其平台将因收购流程而即将关闭。

对于Anthropic而言,这家以“安全第一”理念为基础、以其“宪法式AI”框架(将伦理准则直接嵌入其模型)而闻名的公司,此次人才注入是其积极拓展企业和政府部门的关键一步。Humanloop在评估、监控和合规方面的专业知识直接支持Anthropic提升其AI系统(包括其旗舰Claude模型)的安全性和可控性的目标。Anthropic一直积极将自己定位为企业AI领域的领导者,最近扩展了其模型的上下文窗口,并达成了一项高知名度协议,以每个机构1美元的价格向美国政府提供其AI服务。该公司强调,其“Claude for Work”产品优先考虑数据安全,并且不使用客户数据训练其模型。此外,Anthropic一直在投资于主动安全措施,开发“防护罩”以过滤恶意输入和输出,并设立了由专家组成的“长期利益信托”,以指导其AI开发符合国家安全关切。

此次收购凸显了一个更广泛的行业趋势,即AI的竞争优势日益不仅在于原始模型性能,还在于确保其安全、可靠和大规模合规部署的强大工具和基础设施。随着AI在各行业(特别是技术和金融)的采用加速,对复杂的AI治理、安全和合规解决方案的需求至关重要。Humanloop在简化提示词管理、模型评估和实时监控方面的熟练程度与对自动化、高效和可审计的AI合规流程日益增长的需求完美契合。通过整合Humanloop经验丰富的团队,Anthropic不仅加强了其即时企业产品,还在战略性地将自己定位为全球AI安全运动的领导者,加剧了其与OpenAI和Google DeepMind等主要竞争对手在新兴AI人才争夺战中的竞争。