2023年是提示工程的狂欢之年，掌握了看似神秘的“LLM语言”的人们，仿佛掌握了点石成金的钥匙。但如同任何淘金热一样，它来得快，去得也快。如今，随着大模型日趋成熟，一种更强大、更持久的技能正在兴起——上下文工程。它不再仅仅关注如何提出巧妙的问题，而是专注于如何为智能系统构建知识体系，为AI应用开启更广阔的可能性。
提示工程的兴衰：从追捧到普及
2023年的AI领域，最引人注目的莫过于“提示工程”的爆火。各大媒体争相报道那些掌握了“与LLM流利对话”技巧的人们，他们似乎能够通过构建一些晦涩难懂的咒语，从GPT-4等模型中提取出惊人的智慧。Anthropic等公司甚至发布了病毒式传播的招聘信息，无需计算机科学学位，只需要与机器建立某种近乎心灵感应的联系。
不可否认，提示工程是一项真实存在的技能。它需要使用者具备一定的创造力、语言理解能力和对大模型工作原理的认知。 然而，这种技能的门槛随着模型的发展迅速降低。 大模型变得越来越善解人意，不再需要那些过于复杂的提示词。 无论是营销人员、开发人员，还是高中生，都逐渐掌握了提示工程的基本技巧，曾经的高薪岗位也逐渐趋于平庸。
这种转变并非意味着提示工程毫无价值。事实上，它是AI应用发展的重要阶段。它教会了我们如何与大模型沟通，如何通过语言引导模型生成我们想要的结果。 然而，提示工程的局限性也日益凸显：它往往依赖于试错，缺乏系统性；它对模型的理解不够深入，难以应对复杂场景；它无法充分利用大模型的潜力，只能实现一些简单的任务。
上下文工程：构建知识体系的艺术
随着提示工程的逐渐普及，一种更为根本的技能——上下文工程，开始崭露头角。与提示工程专注于优化问题不同，上下文工程的核心在于构建知识体系，为大模型提供更全面、更精准的上下文信息。
那么，什么是上下文工程？简单来说，它是一种通过组织、过滤和呈现相关信息，从而优化AI模型性能的方法。它涉及多个方面，包括：
- 数据选择与准备： 选取最相关、最可靠的数据，并进行清洗、转换和增强。
- 知识图谱构建： 将数据组织成知识图谱，揭示数据之间的关系，为模型提供结构化的知识。
- 检索增强生成（RAG）： 在生成内容之前，从知识库中检索相关信息，并将这些信息作为上下文提供给模型。
- 提示词优化： 虽然不再是核心，但提示词仍然重要，需要根据上下文进行调整，引导模型生成更准确、更符合预期的结果。
上下文工程的目标是让模型能够更好地理解用户的意图，更准确地获取所需信息，更流畅地生成高质量的内容。
上下文工程的优势与应用场景
与简单的提示工程相比，上下文工程具有以下显著优势：
- 更高的准确性： 通过提供更丰富、更精准的上下文信息，模型可以更好地理解用户的意图，减少错误和幻觉。
- 更强的泛化能力： 上下文工程可以帮助模型更好地适应不同的场景和任务，提高其泛化能力。
- 更好的可解释性： 通过追踪上下文信息的来源和推理过程，可以更好地理解模型的决策过程，提高其可解释性。
- 更高的效率： 通过预先构建知识体系，可以减少模型的计算量，提高其运行效率。
上下文工程的应用场景非常广泛，几乎涵盖了所有需要使用大模型的领域。以下是一些具体的例子：
-
智能客服： 通过构建包含产品信息、常见问题解答和用户历史记录的知识库，可以为智能客服系统提供更全面的上下文信息，使其能够更准确地回答用户的问题，提供更个性化的服务。例如，可以通过收集用户过往的咨询记录、购买历史和个人偏好，构建用户的上下文画像，从而使客服系统能够更好地理解用户的需求，提供更贴心的服务。
-
内容创作： 通过提供相关的背景资料、研究报告和用户反馈，可以为内容创作工具提供更丰富的上下文信息，使其能够更快速地生成高质量的文章、博客和社交媒体帖子。例如，可以通过提供竞争对手的分析报告、行业趋势报告和目标受众的画像，帮助内容创作者更好地了解市场需求，创作更具吸引力的内容。
-
代码生成： 通过提供代码规范、API文档和项目需求，可以为代码生成工具提供更精准的上下文信息，使其能够更准确地生成符合要求的代码，提高开发效率。例如，可以通过提供项目的设计文档、测试用例和代码风格指南，帮助代码生成工具更好地理解项目的整体结构和功能需求，生成更易于维护和扩展的代码。
-
医疗诊断： 通过整合病人的病历、检查报告和医学知识库，可以为医疗诊断系统提供更全面的上下文信息，使其能够更准确地诊断病情，提供更有效的治疗方案。例如，可以通过整合病人的基因组信息、家族病史和生活习惯，帮助医生更好地了解病人的个体差异，制定更个性化的治疗方案。
上下文工程的挑战与未来发展
虽然上下文工程具有巨大的潜力，但也面临着一些挑战：
- 数据质量： 上下文工程的效果很大程度上取决于数据的质量。如果数据存在错误、偏差或不完整，将会严重影响模型的性能。
- 知识表示： 如何有效地表示知识，使其能够被模型理解和利用，是一个重要的问题。不同的知识表示方法（如知识图谱、向量嵌入等）各有优劣，需要根据具体的应用场景进行选择。
- 可扩展性： 随着数据量的不断增加，如何保证上下文工程的可扩展性，也是一个需要解决的问题。
- 伦理问题： 上下文工程可能会涉及到一些伦理问题，例如数据隐私、算法公平性等，需要在设计和应用过程中加以考虑。
未来，上下文工程将会朝着以下几个方向发展：
- 自动化： 自动化上下文构建和管理，减少人工干预，提高效率。
- 自适应性： 模型能够根据上下文的变化动态调整，提高其适应性。
- 可解释性： 提供更清晰的上下文来源和推理过程，提高模型的可解释性。
- 安全性： 加强数据安全和隐私保护，防止恶意攻击和数据泄露。
从提示工程到上下文工程：思维模式的转变
从提示工程到上下文工程，不仅仅是技术上的升级，更是一种思维模式的转变。它要求我们从关注如何提出巧妙的问题，转向关注如何构建完善的知识体系。它要求我们不仅仅要理解模型的工作原理，更要理解业务需求和数据特征。
掌握上下文工程技能，意味着我们能够更好地利用大模型的能力，解决更复杂的问题，创造更大的价值。它将成为AI时代的核心竞争力，决定着我们在AI浪潮中能够走多远。
总之，提示工程的时代正在落幕，上下文工程的时代已经到来。 让我们拥抱这种新的思维模式，掌握这种新的技能，迎接AI的下一个十年。