当我们在构建大模型（LLM）驱动的应用时，目标不仅仅是让它们能够生成文本，更重要的是让它们能够像人类一样思考和行动。本文将探讨如何利用 OpenAI 的强大模型、LangGraph 的流程管理能力以及 Python 的灵活性，构建一个具有Agentic AI 能力的 LLM Workflow，使其能够理解用户意图、做出决策并执行相应的操作，最终实现更智能、更高效的自动化流程。这个过程类似于一个智能的客户支持系统，能够识别问题类型、路由请求、验证信息并提供解决方案，一切都由 AI 自主完成。
Agentic AI：模拟人类思考流程的核心概念
Agentic AI 的核心在于赋予 LLM 自主行动和决策的能力。这与传统的被动式 LLM 应用有显著区别，后者仅根据输入进行输出，而前者则可以根据目标自主地探索、计划和执行。 文章中构建的客服案例，就很好的体现了 Agentic AI 的思路。如果用户反馈一个问题，系统首先进行分类，如果是代码问题，系统会路由到代码专家进行解答，如果只是通用问题，则由通用专家进行回答，最后，还会对代码问题进行验证，确保答案的正确性。这整个流程都是模拟人类的思考和决策过程，最终实现更智能和高效的自动化流程。 这种架构的关键在于将复杂的任务分解为一系列可控的步骤，每个步骤都由 LLM 或其他工具负责，并由流程管理工具（如 LangGraph）协调。
LLM Workflow：构建结构化智能的关键
一个高效的 LLM Workflow 是实现 Agentic AI 的基础。它定义了 LLM 如何处理用户请求、执行任务以及与其他系统交互的步骤。文章中介绍的流程包括：
- 接受用户查询：这是流程的起点，接收用户的输入信息。
- 使用 GPT 进行分类：利用 OpenAI 的 GPT 模型对用户查询进行分类，判断是编码相关问题还是通用问题。
- 路由到相应的处理模块：根据分类结果，将请求路由到
coding_query()或general_query()函数进行处理。 - 编码问题验证：对于编码相关的问题，增加额外的验证步骤，确保问题描述的有效性。
- 最终响应：根据处理结果，生成并返回给用户最终的答案。
这个 LLM Workflow 的设计借鉴了人类解决问题的流程：首先理解问题，然后选择合适的解决方案，最后验证解决方案的有效性。通过将 LLM 集成到这个流程中，我们可以构建出更加智能和可靠的 AI 应用。 试想一下，如果你要开发一个智能文档助手，这个助手需要能够理解用户的提问，然后在大量的文档中找到答案。如果没有 workflow，你可能需要将所有文档都喂给 LLM，让它直接生成答案。但是，这样做的效率很低，而且答案的准确性也难以保证。但是，如果使用 workflow，你可以先让 LLM 对用户的提问进行分类，比如，是关于某个主题的，还是关于某个人的。然后，根据分类结果，从文档中筛选出相关的文档，再将这些文档喂给 LLM，让它生成答案。这样，就可以大大提高效率和准确性。
LangGraph：流程管理的强大工具
LangGraph 是一个用于构建结构化 LLM Workflow 的强大工具。它允许开发者将 LLM 的调用组织成一个图形结构，每个节点代表一个步骤，边代表步骤之间的连接关系。这种图形化的表示方式使得流程的逻辑更加清晰和易于理解。
StateGraph 是 LangGraph 中的一个核心概念，可以将其视为代码中的智能流程图。每个节点都是一个步骤（或决策），边缘定义了从一个节点移动到另一个节点的方式。它非常适合模拟人类工作流程的 LLM 系统，例如：提问 -> 分析 -> 行动。
在文章的代码示例中，StateGraph 被用来定义整个 LLM Workflow。每个节点（例如 classify_message、route_query、general_query、coding_query）都代表一个独立的步骤，而边则定义了这些步骤之间的执行顺序。通过 add_conditional_edges 函数，我们可以根据条件来动态地选择下一步执行哪个节点，从而实现更加灵活的流程控制。
例如，在文章的代码中，route_query 函数就是根据 is_coding_question 的值来决定下一步执行 general 节点还是 coding 节点。如果 is_coding_question 为 True，则执行 coding 节点，否则执行 general 节点。 这种流程控制使得我们可以构建出更加复杂的 LLM Workflow，以适应不同的应用场景。
OpenAI 和 Pydantic：保证输出质量的关键
OpenAI 提供了强大的 LLM 模型，但要保证输出的质量，还需要借助其他工具。Pydantic 就是这样一个工具，它可以用来验证 GPT 模型的输出，确保其符合预期的格式和类型。
在文章的代码示例中，ClassifyMessageResponse 类使用 Pydantic 定义了 GPT 模型输出的结构。它指定了输出必须包含一个 is_coding_question 字段，且该字段的类型必须是布尔值。通过使用 Pydantic，我们可以确保 GPT 模型的输出是结构化的 JSON，而不是混乱的字符串。这使得我们可以更加方便地使用 GPT 模型的输出，并减少了出错的可能性。
想象一下，如果你要开发一个智能客服系统，你需要让 LLM 将用户的提问分类到不同的类别。如果 LLM 的输出是混乱的字符串，你就需要编写大量的代码来解析这些字符串，并将其转换为你可以使用的格式。但是，如果使用 Pydantic，你就可以直接将 LLM 的输出转换为一个 Python 对象，并使用该对象的属性来访问 LLM 的输出。这可以大大简化你的代码，并提高你的开发效率。
此外，文章还使用了 response_model=ClassifyMessageResponse，将 GPT 模型的输出直接映射到 Pydantic 类，进一步简化了代码。 这种方法可以确保从 GPT 获得结构化输出，而不是猜测。Pydantic 负责解析 JSON、验证键和类型，并返回 Python 对象（而不是混乱的字符串）。它类似于 JavaScript 中的 Zod。
Python：流程编排的灵活工具
Python 作为一种通用编程语言，为 LLM Workflow 提供了灵活的编排能力。它可以用来定义流程的逻辑、调用 OpenAI 的 API 以及处理数据。文章中的代码示例展示了如何使用 Python 来实现整个 LLM Workflow。
通过使用 Python，我们可以将不同的组件（例如 OpenAI 的模型、LangGraph 的流程管理工具以及 Pydantic 的数据验证工具）组合在一起，构建出一个完整的 Agentic AI 应用。此外，Python 还拥有丰富的第三方库，可以用来处理各种任务，例如数据分析、网络请求以及图像处理。这使得我们可以构建出更加复杂的 LLM Workflow，以适应不同的应用场景。
例如，我们可以使用 Python 的 requests 库来从外部 API 获取数据，并将其输入到 LLM 中进行处理。或者，我们可以使用 Python 的 matplotlib 库来可视化 LLM 的输出结果。 总之，Python 为 LLM Workflow 提供了灵活的编排能力，使得我们可以构建出更加智能和高效的 AI 应用。
将 State 持久化：实现记忆功能的关键
文章中提到了将 State 持久化的想法，这对于实现 LLM 的记忆功能至关重要。在默认情况下，LLM 的 State 是临时的，每次运行都会被重置。这意味着 LLM 无法记住之前的对话或任务，也无法从中学习。但是，如果我们将 State 持久化到数据库或其他存储介质中，我们就可以让 LLM 记住之前的对话或任务，并从中学习。这可以大大提高 LLM 的智能水平，并使其能够处理更加复杂的任务。
例如，我们可以将用户的对话历史记录存储到数据库中，并在下次与用户对话时，将这些历史记录输入到 LLM 中，让 LLM 了解用户的上下文信息。或者，我们可以将 LLM 在执行任务过程中学到的知识存储到知识库中，并在下次执行类似任务时，从知识库中检索相关知识，以提高执行效率。
实现 State 持久化可以使用多种技术，例如：
- 数据库：可以使用关系型数据库（例如 MySQL 或 PostgreSQL）或 NoSQL 数据库（例如 MongoDB 或 Redis）来存储 State。
- 文件系统：可以使用文件系统来存储 State，例如将 State 序列化为 JSON 或 YAML 格式的文件。
- 云存储：可以使用云存储服务（例如 Amazon S3 或 Google Cloud Storage）来存储 State。
选择哪种技术取决于具体的应用场景和需求。
集成流式输出：提升用户体验的关键
文章中还提到了集成流式输出的想法，这可以显著提升用户体验。在默认情况下，LLM 的输出是一次性生成的，用户需要等待 LLM 完成所有计算才能看到结果。但是，如果使用流式输出，LLM 可以在生成结果的同时将其逐步呈现给用户。这可以大大减少用户的等待时间，并提高用户体验。
例如，在智能客服系统中，我们可以使用流式输出将 LLM 生成的答案逐步呈现给用户。这可以使得用户在 LLM 还在计算答案的同时就开始阅读答案，从而减少用户的等待时间。
实现流式输出可以使用多种技术，例如：
- Server-Sent Events (SSE)：SSE 是一种基于 HTTP 的协议，允许服务器向客户端推送数据。
- WebSockets：WebSockets 是一种双向通信协议，允许客户端和服务器之间进行实时的双向通信。
- HTTP 轮询：HTTP 轮询是一种客户端主动向服务器发送请求，以检查是否有新数据的技术。
选择哪种技术取决于具体的应用场景和需求。
将 Agentic Workflow 可视化：提升理解和调试效率的关键
将 Agentic Workflow 可视化可以帮助开发者更好地理解和调试流程。通过图形化的方式展示流程的结构和执行过程，可以更加直观地了解每个步骤的作用以及步骤之间的依赖关系。这可以大大提高开发效率，并减少出错的可能性。
可以使用多种工具将 Agentic Workflow 可视化，例如：
- Graphviz：Graphviz 是一种开源的图形可视化工具，可以用来生成各种类型的图形，例如流程图、状态图以及网络图。
- Mermaid：Mermaid 是一种基于 JavaScript 的图表绘制工具，可以使用 Markdown 语法来定义图表。
- LangGraph 自带的可视化工具：LangGraph 本身也提供了一些可视化工具，可以用来展示流程的结构和执行过程。
选择哪种工具取决于具体的应用场景和需求。
例如，我们可以使用 LangGraph 自带的可视化工具来展示文章中的 LLM Workflow。这可以使得开发者更加直观地了解每个步骤的作用以及步骤之间的依赖关系。
总结：Agentic AI 的未来
Agentic AI 代表了 LLM 技术发展的未来方向。通过赋予 LLM 自主行动和决策的能力，我们可以构建出更加智能和高效的 AI 应用，从而解决更加复杂的问题。LangGraph、OpenAI、Python、Pydantic 等工具为我们构建 Agentic AI 应用提供了强大的支持。通过将这些工具结合在一起，我们可以构建出像人脑一样思考的 LLM Workflow，从而实现更加智能的自动化流程。
构建 Agentic Workflow 的核心在于模仿人类的决策方式，使其具有结构性、条件性和逻辑性。利用 LangGraph 提供的强大功能，结合 OpenAI 的智能模型和 Python 的灵活控制，我们可以打造出能够像人类一样思考的 AI 代理。未来，随着技术的不断发展，Agentic AI 将在各个领域发挥越来越重要的作用，为我们的生活带来更多的便利和效率。记住，AI 的未来不仅仅是智能，更是结构化。