从提示到生产：构建以 GenAI 为先的流程

近年来，GenAI (生成式人工智能) 技术以前所未有的速度发展，并逐渐渗透到各个行业。传统的流程设计往往以数据或代码为中心，而以 Prompt（提示词） 为先的 GenAI 流程 则将流程的起点聚焦于用户意图。本文将深入探讨如何构建以 GenAI 为先的流程，从提示词的设计到最终的生产落地，并分析其关键组成部分与优势。

Prompt-First 的重要性

传统流程设计通常从编写 SQL 查询语句或配置数据处理任务开始，这意味着需要工程师具备专业的技术背景才能参与流程的构建与维护。而 Prompt-First 的理念则颠覆了这一传统。它将流程的起点定义为用户对目标的自然语言描述，例如“给我一个过去6个月的客户留存模型”。这种方式极大地降低了流程构建的门槛，使得非技术人员也能轻松参与，从而显著提升原型设计的速度，方便更广泛的用户使用，并为 AI 代理的集成提供更好的适应性。Prompt-First 强调的是意图驱动，而非数据摄取，更关注用户想要达成的目标，而非如何具体执行。

例如，一家零售公司希望了解过去一个季度影响客户复购的关键因素。如果采用传统方式，数据分析师需要编写复杂的 SQL 查询语句，从数据库中提取相关数据，然后使用统计分析工具进行分析。整个过程耗时费力，且需要专业的数据分析技能。而如果采用 Prompt-First 的方法，数据分析师可以直接输入一个 Prompt，例如“找出过去一个季度影响客户复购的关键因素”，GenAI 系统会自动解析该 Prompt，调用相应的工具（例如 Snowflake、dbt 等）进行数据查询、处理和分析，最终生成一份包含关键影响因素的报告。

GenAI-First 流程的核心步骤

一个典型的 GenAI-First 流程可以分解为以下几个核心步骤：

1. Prompt（提示词）: 流程的起点，用户以自然语言描述其目标或需求。Prompt 的质量直接影响后续流程的执行效果，因此需要精心设计。好的 Prompt 应当清晰、简洁、明确，避免歧义和模棱两可的表达。Prompt 设计需要考虑模型的理解能力、上下文信息以及期望的输出格式。

2. Parse & Plan（解析与规划）: GenAI 系统接收到 Prompt 后，会对其进行解析，理解用户的意图，并规划出完成任务所需的步骤。这一步是 GenAI 流程的关键，需要强大的自然语言理解能力和推理能力。例如，针对“找出过去一个季度影响客户复购的关键因素”的 Prompt，GenAI 系统可能会规划以下步骤：

   • 从客户订单数据表中提取过去一个季度的订单信息。
   • 从客户信息数据表中提取客户的基本信息。
   • 将订单信息和客户信息进行关联，计算客户的复购率。
   • 分析影响复购率的关键因素，例如客户的消费金额、购买频率、购买商品类别等。

3. Tool Invocation（工具调用）: 根据解析和规划的结果，GenAI 系统会自动调用相应的工具来执行任务。这些工具可以是数据库、数据处理引擎、API 接口或其他外部服务。GenAI 系统需要具备与这些工具进行交互的能力，例如，能够执行 SQL 查询语句、调用 API 接口等。

   举例来说，对于上述客户复购的例子，Tool Invocation 阶段可能包括：

   • 调用 Snowflake 执行 SQL 查询，提取客户订单和客户信息。
   • 调用 dbt 进行数据清洗和转换，计算复购率。
   • 调用统计分析 API，分析影响复购率的因素。

4. Output（输出）: GenAI 系统将执行结果以用户期望的格式输出，例如报告、图表、数据表格等。输出结果应当清晰、易懂、具有实用价值。

   输出结果可能包含：

   • 一份详细的报告，列出影响客户复购的关键因素，并给出相应的建议。
   • 一个可视化图表，展示不同因素对客户复购率的影响程度。
   • 一个包含客户复购率预测的数据表格，帮助企业预测未来的销售额。

5. Feedback Loop（反馈循环）: 用户可以对输出结果进行反馈，GenAI 系统会根据反馈信息进行改进，不断优化流程的执行效果。反馈循环是提升 GenAI 流程的关键，可以帮助系统更好地理解用户的意图，并提供更准确、更实用的结果。

   例如，用户可能会反馈报告中的某个关键因素不够准确，或者建议增加一些其他的分析维度。GenAI 系统会根据这些反馈信息，重新调整流程的执行步骤，并重新生成输出结果。

GenAI-First Stack 的关键组件

构建一个高效的 GenAI-First 架构需要以下关键组件：

1. LLM (Large Language Model) 大语言模型: 作为 GenAI 流程的核心驱动力，LLM 负责解析 Prompt，规划任务，并调用相应的工具。LLM 的性能直接影响整个流程的执行效果，因此需要选择合适的 LLM，并对其进行训练和优化。目前市面上存在多种 LLM，例如 GPT-3、GPT-4、LaMDA 等，企业需要根据自身的业务需求和预算选择合适的 LLM。同时，企业还可以根据自身的业务数据，对 LLM 进行微调，以提升其在特定领域的性能。

   例如，金融机构可以利用包含大量金融文本数据的 LLM 进行风险评估和欺诈检测；电商企业可以利用包含大量商品信息的 LLM 进行商品推荐和客户服务。

2. Orchestration Framework（流程编排框架）: 流程编排框架负责管理和协调 GenAI 流程的各个步骤，确保流程能够按计划执行。流程编排框架需要具备高度的灵活性和可扩展性，能够支持各种不同的工具和平台。常见的流程编排框架包括 Apache Airflow、Prefect、Dagster 等。

   流程编排框架可以帮助企业构建复杂的 GenAI 流程，例如，一个自动化营销流程可能包括以下步骤：

   • 利用 LLM 生成个性化的营销文案。
   • 利用邮件营销工具发送营销邮件。
   • 利用数据分析工具分析营销效果。
   • 根据营销效果调整营销策略。

3. Vector Database（向量数据库）: 向量数据库用于存储和检索向量数据，例如文本、图像、音频等。在 GenAI 流程中，向量数据库可以用于存储 Prompt 的嵌入向量，以及相关的数据和知识。通过向量相似度搜索，可以快速找到与给定 Prompt 最相关的资源，从而提升流程的执行效率。常见的向量数据库包括 Pinecone、Milvus、Weaviate 等。

   向量数据库可以帮助企业构建智能问答系统，用户可以通过自然语言提问，系统会根据问题的内容，从向量数据库中检索出最相关的答案，并返回给用户。

4. Data Connectors（数据连接器）: 数据连接器负责连接各种不同的数据源，例如数据库、API 接口、云存储等。在 GenAI 流程中，数据连接器可以将 LLM 与各种数据源连接起来，使得 LLM 能够访问和利用这些数据。常见的数据连接器包括 JDBC、ODBC、REST API 等。

   数据连接器可以帮助企业构建数据驱动的 GenAI 应用，例如，一个智能客服系统可以通过数据连接器访问客户的订单信息和账户信息，从而提供更个性化的服务。

5. Observability Tools（可观测性工具）: 可观测性工具用于监控 GenAI 流程的执行情况，并提供诊断和调试功能。通过可观测性工具，企业可以及时发现和解决流程中的问题，确保流程的稳定性和可靠性。常见的可观测性工具包括 Prometheus、Grafana、Jaeger 等。

   可观测性工具可以帮助企业监控 GenAI 流程的性能指标，例如，LLM 的推理时间、数据连接器的吞吐量、流程的成功率等。通过分析这些指标，企业可以找到流程的瓶颈，并进行优化。

GenAI-First 的优势

相比传统的流程设计方法，GenAI-First 具有以下显著优势：

1. 更高的效率: 通过自动化流程的各个步骤，GenAI-First 可以显著提升流程的执行效率，缩短开发周期。例如，利用 LLM 自动生成数据报告，可以节省数据分析师大量的时间和精力。根据某公司的实际案例，采用 GenAI 生成报告可以将报告生成时间从 2 天缩短到 2 小时，效率提升了 24 倍。

2. 更低的门槛: GenAI-First 降低了流程构建的门槛，使得非技术人员也能轻松参与。这意味着更多的人可以参与到流程的设计和改进中，从而提升流程的创新性和灵活性。

3. 更强的适应性: GenAI-First 能够更好地适应变化，例如新的数据源、新的业务需求等。通过对 Prompt 进行简单的修改，就可以快速调整流程的执行策略，而无需修改代码或重新配置系统。

4. 更智能的决策: GenAI-First 可以利用 LLM 的强大能力，进行更智能的决策。例如，利用 LLM 分析客户行为，预测客户需求，从而提供更个性化的服务。

GenAI-First 的挑战

尽管 GenAI-First 具有诸多优势，但也面临着一些挑战：

1. Prompt 的质量: Prompt 的质量直接影响流程的执行效果，因此需要精心设计。如何编写高质量的 Prompt 仍然是一个具有挑战性的问题。

2. LLM 的可靠性: LLM 的可靠性是影响流程稳定性的关键因素。目前 LLM 仍然存在一些问题，例如幻觉问题、偏见问题等，需要不断改进。

3. 数据的安全性和隐私: 在 GenAI 流程中，需要处理大量的数据，因此需要确保数据的安全性和隐私。企业需要采取有效的安全措施，防止数据泄露和滥用。

结论

以 Prompt 为先的 GenAI 流程 代表了未来流程设计的趋势。它通过将用户意图置于流程的中心，简化了流程的构建和维护，提升了流程的效率和适应性。随着 GenAI 技术的不断发展，GenAI-First 将在越来越多的领域得到应用，并为企业带来更大的价值。为了更好地利用 GenAI-First，企业需要加强对 Prompt 工程、LLM 应用和相关基础设施的投入，并建立完善的数据安全和隐私保护机制。

未来，我们将会看到更多企业通过构建强大的 GenAI-First 流程，实现业务的智能化转型，在激烈的市场竞争中脱颖而出。