多智能体AI治理：SAP与安捷伦分享部署洞察

人工智能的格局正在迅速演变，超越了单一AI助手的时代，迈向了复杂的专业智能体网络。这些多智能体系统旨在协同工作、自我批评，并智能地为每项任务选择合适的模型，有望为企业带来新的竞争优势。然而，这一进步也带来了重大挑战，特别是在其真实世界的部署和治理方面。

最近的一次讨论强调了这些复杂性，汇集了行业领导者的见解。SAP Labs美国区董事总经理兼SAP全球研究与创新主管Yaad Oren强调了公司致力于帮助客户安全地扩展其AI智能体的承诺。他指出，虽然一定程度的自主性可以实现，但强大的检查点和持续监控对于改进、漏洞缓解和整体系统健康至关重要。Oren承认这项技术仍处于萌芽阶段，将目前的努力描述为确保智能体可扩展性和安全性的“冰山一角”。

据安捷伦（一家分析和临床实验室技术公司）高级副总裁兼首席信息官Raj Jampa称，安捷伦正在其运营中积极整合AI。虽然初步结果令人鼓舞，但该公司正努力应对扩展和漏洞管理的实际问题。Jampa将安捷伦描述为处于AI采用的“第二阶段”，即超越探索阶段，开始解决增强AI监控和成本优化等挑战。

在安捷伦内部，AI被策略性地部署在三个核心支柱中。在产品方面，重点是将AI嵌入到仪器中以加速创新。对于面向客户的运营，目标是识别能够为客户带来最大价值的AI能力。在内部，AI被应用于提高运营效率，例如开发自愈网络。Jampa强调了这些用例需要强大的治理框架，该框架应建立基于政策的边界和护栏，以平衡合规性、安全性与运营灵活性。他引用了最近的一个事件，其中智能体的配置更新因缺少边界检查而立即引发问题，这突显了对每个输入和输出进行严格审计和可追溯性的必要性。

对于复杂的决策，特别是涉及自然语言处理或大规模翻译的决策，人工层面仍然不可或缺。Jampa解释说，对于此类场景，AI智能体被设计为在继续之前标记需要人工干预和批准。速度与准确性之间的固有权衡也在决策过程的早期发挥作用，因为在低延迟要求下运行的复杂模型会迅速增加成本。因此，治理层对于监控智能体在速度、延迟和准确性方面的性能至关重要，有助于组织完善和扩展其AI策略。

将这些新的AI智能体与现有企业解决方案集成是另一个主要障碍。虽然传统的本地系统可以通过数据API或事件驱动架构进行连接，但Oren认为，最佳方法是首先将所有解决方案过渡到云框架。SAP协助企业将其本地安装迁移到云端，从而简化连接和交付周期。一旦进入统一的云基础设施，数据层就变得至关重要。例如，SAP的业务数据云作为一个统一平台，聚合并语义索引来自SAP和非SAP来源的数据，使智能体能够连接并创建端到端的业务流程。

成功的企业AI部署取决于三个关键要素：一个干净、统一的数据层；一个强大的编排层；以及对隐私和安全坚定不移的承诺。Oren强调，编排智能体既是一门科学也是一门艺术，对于防止故障和确保有效审计至关重要。安全和隐私是不可协商的，特别是当大量智能体与敏感数据库和企业架构交互时。身份和授权管理变得至关重要，确保只有授权人员或智能体才能访问特定信息，例如人力资源团队成员查看薪资数据。

展望未来，Oren设想了一个人类企业团队与AI智能体和机器人团队成员协同工作的未来。在这个不断演变的格局中，身份管理将变得更加重要。他总结说，虽然智能体越来越被视为数字同事，但它们需要加强监控和管理。这包括细致的入职、授权和持续的变更管理，将智能体视为需要持续维护和改进的专业“人格”，尽管其监督比人类员工更为严格。