上下文工程：提升大型语言模型性能的新兴学科

一篇最新的调查论文将上下文工程引入为一门正式且关键的学科，旨在推动大型语言模型（LLM）的发展，超越传统提示工程的范畴。这个新框架提供了一种系统方法，用于设计、优化和管理指导LLM的信息，旨在充分发挥其潜力。

理解上下文工程

上下文工程被定义为组织、组装和优化输入LLM的所有形式信息的科学和工程过程。其主要目标是最大限度地提升这些模型在各种能力上的性能，包括理解、推理、适应性和实际应用。与通常将上下文视为静态文本字符串的提示工程不同，上下文工程将其视为动态的、结构化的组件集合。这些组件通过明确的功能精心选择、获取和组织，通常受到严格的资源和架构约束。

关键组件和实现

该论文通过两个主要类别概述了上下文工程：基础组件和系统实现。

基础组件：

• 上下文检索与生成： 这涉及广泛的技术，从基本的提示工程到复杂的上下文学习方法，如少样本学习、思维链和思维树推理。它还包括外部知识的检索，例如通过检索增强生成（RAG）和知识图谱，以及这些上下文元素的动态组装。

• 上下文处理： 该领域侧重于LLM如何处理和完善信息。它通过使用高级架构解决长序列处理的挑战，通过迭代反馈和自我评估实现上下文的自我完善，并促进不同数据类型的集成，包括多模态信息（视觉、音频）和结构化数据（图、表格）。

• 上下文管理： 该组件处理上下文的存储和组织。它包括内存层次结构和存储架构，如短期上下文窗口、长期记忆和外部数据库。内存分页和上下文压缩等技术被用于高效管理，特别是在多轮对话或多智能体环境中。

系统实现：

• 检索增强生成（RAG）： RAG系统动态集成外部知识，使LLM能够访问和利用最新信息。这些系统可以是模块化的、智能体化的或图增强的，支持对结构化数据库和图进行复杂推理。

• 记忆系统： 这些系统提供持久且分层的存储，使LLM智能体能够长期学习并在长时间交互中回忆信息。这对于个性化助手、长期对话和复杂模拟智能体至关重要。

• 工具集成推理： LLM越来越能够使用外部工具，如API、搜索引擎和代码执行环境。这使得它们能够将其语言推理能力与现实世界的实际行动相结合，将其效用扩展到数学、编程和科学研究等领域。

• 多智能体系统： 这涉及协调多个LLM（智能体）以协作解决复杂问题。标准化协议、协调器和共享上下文促进了它们的交互，使其适用于分布式AI应用。

主要见解和挑战

该调查强调了几个关键见解和开放研究问题：

• 理解-生成不对称性： 尽管LLM在通过高级上下文工程理解复杂、多方面上下文方面表现出色，但它们通常难以生成与相同复杂性或长度水平相匹配的输出。

• 集成和模块化： 最佳性能通常通过结合各种技术（如检索、记忆和工具使用）的模块化架构实现。

• 评估局限性： 当前的评估指标和基准，如BLEU和ROUGE，通常不足以捕捉高级上下文工程所实现的复杂、多步骤和协作行为。明确需要新的、动态的、整体的评估范式。

• 开放研究问题： 在建立理论基础、实现高效扩展（特别是计算方面）、无缝集成跨模态和结构化上下文，以及确保在实际场景中稳健、安全和道德的部署方面，仍存在重大挑战。

应用和未来方向

上下文工程有望在各种应用中实现更强大、适应性更强的AI系统，包括长文档问答、个性化数字助手、科学问题解决以及各行业的多智能体协作。

上下文工程的未来指向开发统一的数学和信息论框架，通过先进的注意力机制和内存管理在扩展和效率方面进行创新，并实现文本、视觉、音频和结构化数据的无缝多模态集成。最终目标是确保这些先进LLM系统的可靠、透明和公平部署。

总而言之，上下文工程正在成为指导下一代基于LLM的智能系统的关键学科。它标志着从创意提示编写的艺术向信息优化、系统设计和上下文驱动人工智能的严谨科学的重大转变。