今天是大模型学习之旅的第二天，我决定深入探索人工智能时代的一项关键技能：提示工程。最初只是出于好奇，想了解不同的提示工程技术在实践中如何发挥作用，最终我构建了一个功能齐全的学习伙伴应用程序，它基于Ollama、Flask和React，旨在掌握高级提示工程技巧。这篇文章将详细探讨我利用这个应用进行的单样本提示、少样本提示、思维链、元提示、思维树、自洽性以及RAG提示链等七种核心提示工程技术，并分享一些实践中的关键见解。

动机：超越基础提示

大多数教程只展示了基础知识：向AI提问，然后得到一个答案。但我希望理解其中的细微差别。单样本提示与少样本提示相比如何？当你实施思维链推理时会发生什么？更重要的是，像元提示、思维树和RAG提示链等高级技术在实际场景中的表现如何？真正理解的唯一方法就是构建一个可以并排展示这些技术的应用程序。

构建：一个实用的实验室

我创建了一个学习伙伴应用程序，作为提示工程技术的“活”实验室。该架构简单而强大：

• 前端：React界面，用于选择和比较提示工程技术。
• 后端：Flask API，用于处理不同的提示策略。
• AI引擎：本地运行的Ollama，用于完全控制和隐私。

但更有趣的是，虽然该应用程序展示了三种核心技术（单样本提示、少样本提示和思维链），但我的学习之旅更加深入。

七种探索的技术

1. 单样本提示 (One-Shot Prompting)：

   • 定义：最基本的形式。提供一个示例，让模型进行泛化。
   • 示例：”将’Hello’翻译成法语：’Bonjour’。现在翻译’Goodbye’：”
   • 实践体验：速度快，实现简单。但是，当任务比较复杂时，准确性往往较低。比如，我尝试用单样本提示让模型进行简单的代码翻译，效果参差不齐，有时能正确翻译，有时则完全错误，说明模型泛化能力有限，需要更多信息来指导。

2. 少样本提示 (Few-Shot Prompting)：

   • 定义：提供多个示例，以实现更好的模式识别。
   • 示例：”猫 -> 动物””玫瑰 -> 花””橡树 -> ？”
   • 实践体验：通过提供少量例子，让模型可以更好地理解任务目标和预期输出格式。在实践中，我发现当使用少样本提示进行文本分类时，效果明显优于单样本提示。例如，给定几个电影评论及其对应的情感标签（正面/负面），模型能够更准确地判断新的电影评论的情感倾向。这证明了通过提供更多上下文信息，可以显著提高模型的性能。

3. 思维链 (Chain of Thought, CoT)：

   • 定义：将复杂的推理分解为步骤。
   • 示例：”让我们一步一步地思考：1. 首先，确定问题。2. 然后，考虑可能的方法。3. 最后，选择最佳解决方案。”
   • 实践体验：思维链在解决需要逻辑推理的问题时非常有效。我使用思维链提示模型解决一些数学应用题。通过引导模型逐步分析问题、列出已知条件、选择合适的公式并进行计算，模型能够更准确地得到答案。例如，对于一个关于计算利息的问题，思维链提示确保模型考虑到本金、利率和时间等所有相关因素，从而避免了常见的计算错误。然而，思维链会显著增加计算时间。

4. 元提示 (Meta-Prompting)：

   • 定义：教会AI改进自己的提示。
   • 示例：”在回答之前，首先分析这个提示，并提出改进建议，使其更有效。然后提供你增强的响应。”
   • 实践体验：元提示能够让模型在生成最终结果之前先对原始提示进行分析和优化，从而提高回答的质量和相关性。我发现，通过元提示，模型能够识别出原始提示中的模糊不清之处，并主动请求更多的上下文信息，最终生成更准确和有用的回答。举例来说，在进行内容创作时，元提示可以帮助模型更好地理解目标受众和写作风格，从而生成更符合要求的文章。这是一个非常强大的功能，能够充分利用AI的自我改进能力。但是需要注意的是，这个技术依赖于LLM本身的能力，如果LLM本身能力不足，元提示的效果会打折扣。

5. 思维树 (Tree of Thoughts, ToT)：

   • 定义：同时探索多个推理路径。
   • 示例：”考虑解决此问题的三种不同方法：路径A：[方法1]路径B：[方法2]路径C：[方法3]评估每条路径并选择最佳路径。”
   • 实践体验：思维树对于需要创造性解决方案的复杂问题非常有效。它允许模型同时探索多个不同的解决方案，并根据一定的评估标准选择最佳方案。例如，在进行头脑风暴时，可以使用思维树来生成各种不同的创意，并评估每个创意的可行性和潜在价值。但是，思维树的计算成本非常高，因为它需要同时维护和评估多个推理路径。在资源有限的情况下，需要权衡其带来的益处和计算成本。

6. 自洽性 (Self-Consistency)：

   • 定义：多次运行相同的提示，并选择最一致的答案。
   • 示例：”生成解决此问题的3个不同的解决方案，然后确定其中最可靠的方法。”
   • 实践体验：自洽性是一种提高模型可靠性的有效方法。通过多次运行相同的提示，并比较每次运行的结果，可以识别出模型的不确定性和“幻觉”。例如，在回答事实性问题时，如果模型多次运行都给出相同的答案，那么这个答案更有可能是正确的。我发现自洽性在处理需要高准确性的任务时特别有用，例如医学诊断或法律咨询。通过结合自洽性和人工审核，可以最大限度地减少错误，并确保模型的输出是可靠的。

7. RAG提示链 (RAG Prompt Chaining)：

   • 定义：将检索增强生成与顺序提示相结合。
   • 示例：”首先，检索关于[主题]的相关上下文。然后，使用该上下文来回答：[问题]。最后，根据检索到的信息验证你的答案。”
   • 实践体验：RAG提示链结合了外部知识检索和复杂的提示技术，能够生成既准确又上下文丰富的响应。我使用RAG提示链来构建一个问答系统，该系统可以基于特定的文档集合回答用户的问题。首先，系统检索与问题相关的文档片段，然后将这些片段与问题一起作为提示传递给模型。模型利用检索到的信息生成答案，并根据这些信息验证答案的准确性。我发现RAG提示链在处理需要特定领域知识的问题时非常有效，例如法律、医学或金融。通过结合外部知识和强大的语言模型，可以构建出功能强大的智能应用。

实践实现中的关键见解

质量与速度的权衡

• 单样本提示：快速，但有时不一致。
• 少样本提示：更好的准确性，稍微慢一些。
• 思维链：最彻底，但需要更多的处理时间。

通过实验，我发现不同的提示工程技术在质量和速度之间存在权衡。单样本提示速度最快，但准确性最低。少样本提示在速度和准确性之间取得了较好的平衡。思维链能够提供最彻底的答案，但需要最多的计算时间。在实际应用中，需要根据具体的需求选择合适的提示工程技术。

上下文比我想象的更重要

元提示揭示了一些有趣的东西：AI通常知道如何改进自己的提示，甚至比我最初的想法更好。这种递归改进能力非常强大。

通过使用元提示，我发现AI在理解问题和生成高质量答案方面，很大程度上依赖于上下文信息。当提供的上下文信息不足时，AI会主动请求更多的信息，或者根据已有的知识进行推断。这说明了在进行提示工程时，提供尽可能多的上下文信息非常重要。这不仅可以提高AI的准确性，还可以减少其产生“幻觉”的可能性。

思维树的计算成本很高，但值得

对于需要创造性解决方案的复杂问题，思维树始终优于线性推理方法。但是，它需要更多的计算资源。

思维树是一种强大的提示工程技术，它可以让AI同时探索多个不同的解决方案，并根据一定的评估标准选择最佳方案。然而，思维树的计算成本非常高，因为它需要同时维护和评估多个推理路径。在资源有限的情况下，需要权衡其带来的益处和计算成本。例如，在进行头脑风暴时，可以使用思维树来生成各种不同的创意，并评估每个创意的可行性和潜在价值。但是，如果计算资源有限，则需要限制思维树的深度和广度，以避免资源耗尽。

自洽性被低估了

这种技术极大地提高了事实性问题的可靠性。多次运行相同的提示3-5次并比较结果有助于识别模型何时“产生幻觉”或不确定。

自洽性是一种提高模型可靠性的有效方法。通过多次运行相同的提示，并比较每次运行的结果，可以识别出模型的不确定性和“幻觉”。例如，在回答事实性问题时，如果模型多次运行都给出相同的答案，那么这个答案更有可能是正确的。我发现自洽性在处理需要高准确性的任务时特别有用，例如医学诊断或法律咨询。通过结合自洽性和人工审核，可以最大限度地减少错误，并确保模型的输出是可靠的。此外，自洽性还能帮助我们更好地理解模型的行为，从而更好地进行提示工程。

RAG提示链弥合了知识鸿沟

将外部知识检索与复杂的提示相结合，创建了既准确又上下文丰富的响应。

RAG提示链结合了外部知识检索和复杂的提示技术，能够生成既准确又上下文丰富的响应。在知识密集型的任务中，RAG提示链可以显著提高模型的性能。例如，在构建一个问答系统时，可以使用RAG提示链来检索与问题相关的文档片段，然后将这些片段与问题一起作为提示传递给模型。模型利用检索到的信息生成答案，并根据这些信息验证答案的准确性。通过结合外部知识和强大的语言模型，可以构建出功能强大的智能应用。同时，这也弥合了LLM本身知识库的不足。

惊人的发现：提示工程就是编程

第二天最大的启示？提示工程本质上是一种新的编程形式。就像传统的编程一样，它需要：

• 调试：当提示未按预期工作时。
• 优化：平衡性能和准确性。
• 架构：构建复杂的提示链。
• 测试：验证不同场景下的输出。

提示工程与传统的编程有很多相似之处。都需要定义明确的目标、设计合理的流程、进行充分的测试和调试。但是，提示工程也具有其独特性。与传统的编程相比，提示工程更加依赖于自然语言，更加注重与模型的交互。此外，提示工程还需要考虑到模型的行为和特点，例如其对不同提示的敏感程度、其产生“幻觉”的可能性等等。因此，提示工程既是一门科学，也是一门艺术。

我已经看到的实际应用

• 学习会议：使用思维链解决复杂问题。
• 研究：实施RAG提示链进行事实核查。
• 创意写作：使用思维树探索叙事可能性。
• 代码审查：使用元提示进行自我改进的代码分析。

提示工程的应用范围非常广泛。除了上述的应用之外，还可以应用于自然语言处理、机器翻译、文本生成、对话系统等等。随着LLM的不断发展，提示工程的应用前景将更加广阔。 掌握提示工程，可以让我们更好地利用LLM来解决实际问题，提高工作效率，并创造出更多有价值的应用。

代码：开源学习

我已经将学习伙伴应用程序开源，因为我相信学习提示工程的最佳方法是通过实验。该存储库包括我探索的所有技术的实现，以及清晰的示例和文档。 [GitHub Repository Link]

最后的思考

第二天告诉我，提示工程不仅仅是从AI获得更好的答案，而是要理解如何在人工智能时代系统地思考问题解决。每种技术都代表一种不同的认知方法，掌握它们感觉就像获得了新的思考方式。

从基本提示到元提示和RAG提示链等高级技术的旅程令人大开眼界。很明显，随着LLM变得越来越强大，与它们有效沟通的艺术和科学将变得越来越有价值。

明天对宪法AI和对抗性提示的探索有望同样具有启发性。 学习仍在继续。

在你的AI旅程中，你发现哪些提示技术最有效？我很乐意在下面的评论中听到你的经验。 让我们一起深入探索提示工程的奥秘，共同迎接人工智能时代的挑战和机遇。 通过不断学习和实践，我们可以更好地掌握提示工程，并将其应用于各个领域，为社会发展做出贡献。