大模型（LLM）作为一种预测机器，其核心在于理解输入文本并预测下一个最有可能出现的词（或token）。Prompt Engineering 的目的就是通过精心设计提示语 (prompt)，让模型给出更准确、更有用的结果。本文将深入探讨 Prompt Engineering 中的关键配置参数，包括输出长度（max_tokens）、温度（temperature）、Top-K 和 Top-P，并通过实际案例分析如何优化这些参数，从而提升大模型的输出效果。

大模型 Prompt Engineering 的基石：输出长度 (max_tokens)

在 Prompt Engineering 中，输出长度 (maxtokens) 扮演着重要的角色。它决定了大模型生成文本的最大token数量。设置合理的 maxtokens 值，直接影响着大模型输出信息的完整性和质量。

例如，我们使用 OpenAI 的 GPT-3.5-turbo 模型，要求其介绍量子物理。以下是两个不同 max_tokens 值的结果：

• max_tokens = 50:

  量子物理，也称为量子力学，是物理学的一个分支，它处理的是最小尺度上粒子的行为，如原子和亚原子粒子。它提供了一个理论框架，用于理解物质和能量在

• max_tokens = 100:

  量子物理，也称为量子力学，是物理学中的一个基本理论，描述了物质和能量在原子和亚原子粒子的最小尺度上的行为。它涉及叠加、纠缠和不确定性等原理，与经典物理相比，这些原理可能看起来违反直觉。\n\n量子物理学已经导致了许多突破性的发现和应用，例如量子计算、量子密码和量子隐形传态的发展。它也提供了对自然界更深入的理解

可以看出，当 maxtokens 较小时，输出会被截断，导致信息不完整。但需要注意的是，增加 maxtokens 并不一定意味着更好的结果。过高的 maxtokens 会增加计算资源消耗，减慢处理速度，并可能导致模型生成冗余或不相关的内容。因此，在 Prompt Engineering 实践中，需要根据任务的复杂程度和所需的输出信息量，谨慎地选择合适的 maxtokens 值。

实际应用中，例如在进行文本摘要任务时，为了控制摘要的长度，避免冗长，就需要限制 maxtokens 的大小。反之，在进行创意写作或者代码生成时，为了保证输出的完整性和多样性，就需要适当增加 maxtokens 的大小。通过合理的设置 max_tokens，可以使大模型更好地服务于不同的应用场景，提高 Prompt Engineering 的效率。

温度 (Temperature) 的艺术：控制大模型的创造力

Prompt Engineering 中，温度 (Temperature) 是一个至关重要的参数，它直接影响着大模型输出的随机性和创造性。温度越高，模型在选择下一个 token 时，会更加随机，从而产生更多样化、更具创造性的结果。相反，温度越低，模型会更加保守，倾向于选择最可能的 token，从而产生更一致、更可预测的结果。

OpenAI Chat API 中，温度的取值范围通常在 0 到 2 之间。以下是一些常用的温度设置及其效果：

• 0.0: 产生最具确定性的输出。模型每次都选择最可能的下一个词。
• ~0.7 (默认): 在创造性和可靠性之间取得平衡。
• 1.0: 更具创造性，随机性增加。
• >1.0 up to 2.0: 高度创造性或混乱，但可能产生不太连贯或相关的响应。

例如，要求模型写一条关于人工智能接管日常琐事的推文：

• temperature=0.3:

  很高兴看到人工智能通过接管日常琐事，彻底改变了我们的日常生活，从而释放了更多时间从事更有意义的活动！#AI #创新

• temperature=0.9:

  很高兴看到#AI 通过接管日常琐事，彻底改变了日常生活，从而释放了更多时间进行创造和创新！🤖💡 #技术 #未来

• temperature=1.5:

  很高兴看到#AI 通过接管日常琐事，彻底改变了日常生活，让我们有更多的时间专注于真正重要的事情。拥抱创新！🤖✨#未来工作

可以看到，随着温度的升高，推文的内容更加多样化和富有创意，但也可能包含一些不太常见的词语或表达方式。

在 Prompt Engineering 实践中，温度的选择取决于具体的任务需求。对于需要精确性和一致性的任务，例如代码生成或数据分析，应选择较低的温度。对于需要创造性和多样性的任务，例如创意写作或头脑风暴，应选择较高的温度。例如，在撰写营销文案时，适当地提高温度，可以帮助模型生成更吸引人的创意标题和内容。而在进行科学报告撰写时，则需要降低温度，保证报告的准确性和严谨性。

Top-K 和 Top-P：精准控制大模型的输出范围

在 Prompt Engineering 中，Top-K 和 Top-P 都是用于控制大模型输出范围的重要参数。它们通过限制模型选择下一个 token 的范围，从而影响模型的输出质量和多样性。

• Top-K: 限制模型只从最有可能的 K 个 token 中选择下一个 token。
• Top-P: 允许模型从累积概率超过 P 的最小 token 集合中选择下一个 token。

目前，OpenAI 的 Chat API 暂不支持 Top-K 参数。

例如，要求模型用三句话描述人工智能的未来：

• top_p=1:

  人工智能的未来预计将为医疗保健、金融和交通运输等各个行业带来重大进步。人工智能技术将继续发展并变得更加复杂，使机器能够执行具有类似人类能力的复杂任务。随着社会努力应对这项快速发展技术的影响，围绕人工智能的伦理考虑和法规也将变得越来越重要。

• top_p=0.7:

  人工智能的未来在彻底改变各个行业和改善日常生活方面具有巨大潜力。随着技术不断进步，人工智能有望变得更加复杂，使其能够在超出人类能力的水平上执行复杂的任务和解决问题。然而，伦理考虑和法规对于确保人工智能的开发和利用以负责任的方式造福社会至关重要

• top_p=0.1:

  人工智能的未来在改变行业和提高我们生活各个方面的效率方面具有巨大潜力。随着人工智能技术不断进步，我们可以预期在医疗保健、交通运输和金融等领域看到更复杂的应用。然而，伦理考虑和法规也将在塑造未来人工智能系统的开发和部署方面发挥关键作用。

可以看到，随着 Top-P 值的降低，模型的输出变得更加集中和可预测，但也可能失去一些多样性和创造性。

在 Prompt Engineering 实践中，Top-K 和 Top-P 的选择也取决于具体的任务需求。对于需要精确性和一致性的任务，例如代码生成或数据分析，应选择较低的 Top-K 和 Top-P 值。对于需要创造性和多样性的任务，例如创意写作或头脑风暴，应选择较高的 Top-K 和 Top-P 值。

需要注意的是，当同时使用多个参数时，参数之间的相互作用可能会影响最终的输出结果。例如，如果将温度设置为 0，则 Top-K 和 Top-P 将变得无关紧要，因为模型总是会选择最可能的 token。同样，如果将 Top-K 设置为 1，则温度和 Top-P 也将变得无关紧要，因为只有一个 token 可以通过 Top-K 标准。如果将 Top-P 设置为 0（或一个非常小的值），大多数 LLM 采样实现将仅考虑最可能的 token 来满足 Top-P 标准，从而使温度和 Top-K 无关紧要。因此，在 Prompt Engineering 实践中，需要仔细权衡各个参数之间的关系，并进行充分的实验，才能找到最佳的参数组合。

总结：精益求精的 Prompt Engineering

本文深入探讨了 Prompt Engineering 中 max_tokens、temperature、Top-K 和 Top-P 等关键配置参数，并通过实际案例分析了如何优化这些参数，从而提升大模型的输出效果。Prompt Engineering 是一门精益求精的艺术，需要不断地实践、探索和总结。只有深入理解大模型的底层原理，掌握各种 Prompt Engineering 技巧，才能真正发挥大模型的潜力，让其更好地服务于我们的工作和生活。在未来的 Prompt Engineering 实践中，我们需要继续关注最新的技术发展，不断学习新的 Prompt Engineering 方法，才能始终保持领先地位。