Confluent重磅发布:Kafka数据赋能AI流式代理,实时业务洞察新纪元

Thenewstack

Confluent 近日推出了全新的流式代理(Streaming Agents)功能,目前已在 Confluent Cloud 中开放预览。这项新功能标志着人工智能应用的一次重大演进,它使组织能够选择模型、设计提示、指定工具和数据源、实施测试,并丰富数据,以构建事件驱动的多代理AI系统。

Confluent 的 AI 代理方法之所以引人注目,主要基于两个令人信服的原因。首先,它旨在通过直接从 Confluent 的 Apache Kafka 基础中获取最新数据,从而充分实现智能代理的潜力,为它们提供最新的态势感知能力。其次,或许更深远的意义在于,它颠覆了传统的 AI 交互模式。与人类通常通过自然语言提示(如对聊天机器人)来启动 AI 代理不同,流式代理被设计为自主实体,能够动态地响应低延迟的企业数据。Confluent 的 AI 负责人 Sean Falconer 解释说,流式代理的构想部分是为了推动企业迈向未来,即 AI 将以“嵌入基础设施中、监控业务状态并根据状态变化做出反应的环境化、事件驱动型代理”为特征。他认为,这些由 AI 驱动的代理可以充当组织的“眼睛”和“耳朵”,获取影响业务案例的最新数据驱动进展,并确保智能系统立即适应。通过将 Kafka 强大的存储和消息传递能力与 Confluent Cloud for Apache Flink 中发现的分析、AI 模型和流式代理相结合,Confluent 的新功能有潜力精确实现这一目标。

这些流式代理的开发和部署都在 Confluent Cloud for Apache Flink 中进行。Flink 作为计算骨干,使代理能够与各种外部工具和资源无缝交互。根据 Falconer 的说法,用户可以连接到 MCP(一种代理调用资源的协议)等新兴标准,以及向量和 SQL 数据库,以及 API 端点,所有这些都在 Flink 环境中安全管理。Flink 还提供了接口,供组织定义代理要执行的特定操作,并集成各种 AI 模型,包括来自 Gemini、OpenAI 和 Anthropic 等行业领导者的模型。Falconer 指出,模型的选择通常是代理构建的第一步。

在 Confluent Cloud for Apache Flink 中,代理配置的一个关键方面涉及定义提示,这是一个“上下文工程”的核心过程。这些提示是双重的:系统提示,用于确立代理在更大工作流中的总体作用;以及任务特定提示,用于详细说明代理预期执行的精确任务特征。例如,一个系统提示可能将代理指定为“撰写电子邮件的专家”,然后给出明确的指令,例如“根据以下描述特定用户输入的内容撰写一封电子邮件”。这种划分缩小了代理的范围,清晰地规范了其预期的输入和输出。正如 Falconer 所阐述的:“如果我正在对一个潜在客户进行评分,那么我知道输入将是一个潜在客户,而输出应该是一个介于 1 到 100 之间的分数。”这种精确性有助于立即检测错误,并促进代理的更轻松测试和演进。

虽然 Apache Flink 提供处理能力,但流式代理的固有强大功能很大程度上源于其与 Apache Kafka 的深度集成,用于代理间通信。流式代理不依赖其他协议,而是利用 Kafka 强大的消息传递能力,使代理能够传递复杂工作流的不同部分,共同实现更大的目标,例如为电信提供商检测网络故障。这个过程通常始于多样化的实时输入——如天气报告或物联网传感器数据——代表业务的动态状态。正如 Falconer 详细阐述的:“一旦一个代理获取了这些数据,它还会与一些外部系统进行通信以收集额外的上下文。然后它会生成一个输出,这个输出可能会分发到多个系统,包括其他代理,然后这些代理将输出投入运行。”通常,这些初始事件会流入 Kafka 主题,数据可以从那里路由到 Flink 进行聚合或处理。代理对数据执行操作后,它将其输出返回到 Kafka,通常是新的主题,从而促使后续代理继续工作流。Kafka 持久的消息传递和存储能力在这里是无价的,提供了“代理一和代理二之间”关键的“可追溯性”。这种连续记录允许开发人员审查通信历史,便于针对真实流量进行测试,并能够改进代理行为和模型,确保改进的输出。

Confluent 还集成了全面的测试功能,包括对流式代理的“暗启动”(dark launch)支持。这允许代理在生产流量中运行,而无需直接与最终用户交互,使组织能够部署第二个版本——可能带有不同的模型或提示——并衡量其相对于原始版本的性能,而不会影响实时操作。这种并行处理允许进行性能比较,确保“第二版优于第一版”。用户还可以在 Confluent 的环境中进行 A/B 测试,并通过直接从流数据平台访问外部表(例如 MySQL 中的表)来丰富代理数据。

通过用实时流数据增强 AI 代理,Confluent 显著提升了它们代表企业自主行动的能力。Falconer 恰当地将这种实时智能比作企业的“眼睛和耳朵”,它补充了从历史数据中获得的洞察。他强调:“大多数业务案例都需要两者兼顾”——既要理解过去客户行为,也要理解他们当前的行为。为融入 AI 的代理配备这种全面、最新的信息,将释放其有效协作的巨大潜力,从而优化业务成果并实现战略目标。