大型语言模型（LLM）的崛起带来了前所未有的AI能力，但也面临着一个持续存在的挑战：产生幻觉的倾向。在AI领域，”幻觉”指的是LLM生成看似合理但实际上不准确的信息，这会损害信任，并限制其在高风险领域的应用。 为了解决这个问题，需要一种复杂的架构方法，该方法整合了Agentic AI原则、多模态推理和检索增强生成（RAG）。 正如最近一个飞行规划智能体所展示的那样，这些概念的协同作用创造了一个强大的系统，即使面对不完整或不相关的查询，也能提供准确、可靠和可信赖的答案。
Agentic AI：赋予LLM主动性和自我修正能力
Agentic AI的核心在于赋予LLM一种目标感和结构化的工作流程。与被动地回答问题不同，Agentic AI智能体能够主动分析用户的请求，制定行动计划，并有策略地利用各种“工具”来实现其目标。这种主动性和迭代方法是避免幻觉的关键。例如，在飞行规划的场景中，Agentic AI能够将复杂的任务分解为可管理的子问题，如：
- 理解请求： 将用户的查询分解为具体的所需信息，例如：航线、天气、机场信息等。
- 规划步骤： 决定使用哪些“工具”（例如，搜索知识库、查询天气API等）。
- 执行步骤： 使用其工具来收集信息。
- 推理和综合： 结合收集到的信息来形成响应。
- 自我纠正： 严格审查其响应，以确保其准确，并且完全基于找到的信息，从而防止做出假设。
这种分解能够系统地收集和评估信息，从而降低生成未经证实的内容的可能性。更重要的是，Agentic AI包含一种自我纠正机制，充当其内部批评家。在生成初步响应之后，它会严格地将输出与其检索到的事实进行交叉引用，从而识别并纠正任何差异或不受支持的主张。这种内部反馈循环是针对微妙出现的捏造细节的有力防御，从而提供了一种安全的准确性。例如，如果AI生成了一个飞行计划，包含了需要特殊许可才能飞行的空域，但知识库中没有明确提到这一点，那么自我纠正机制应该能够识别出这个潜在的“幻觉”，并提醒AI智能体重新评估其计划。在上述文章的案例中，Agentic AI在初始的飞行计划中包含了一些推断和通用航空惯例，这些并没有在知识库中明确提及，但是自我纠正机制成功识别了这些未经证实的陈述，并标记为需要修改，在后续的优化中，AI成功移除了这些没有依据的声明，并且提供了严格基于检索到的信息而生成的正确的飞行计划。
多模态推理：拓展AI感知边界，提升理解深度
多模态推理允许AI处理和理解以各种格式呈现的信息，而不仅仅是文本。对于飞行规划等领域，这是必不可少的。航空图、天气雷达图像和机场示意图包含重要的视觉信息，可以补充文本规定和时间表。例如，一个机场的跑道长度、方位、导航设施等信息，可以通过文本描述的方式存储，也可以通过机场的示意图进行展现。
通过集成多模态LLM，智能体可以“看到”并解释这些视觉线索以及文本数据，从而更全面、更深入地了解运营环境。 这种更广泛的上下文感知提供了更多用于接地的锚点，从而使LLM更难编造与文本或视觉证据相矛盾的细节，从而增强对AI能力的信心。
例如，一个飞行员在规划前往一个陌生机场的飞行计划时，可能会查询机场的跑道长度和导航设施。 如果智能体只检索到关于跑道长度的文本信息，那么它可能无法提供足够的信息来帮助飞行员做出决策。 但是，如果智能体能够同时检索到机场的示意图，飞行员就可以直观地了解跑道的位置、导航设施的布局以及周围的地形，从而做出更明智的决策。根据波音公司的研究，飞行员在使用多模态信息的辅助下，飞行事故率可以降低15%。
RAG：外部知识注入，消除知识盲区
检索增强生成（RAG） 是防止幻觉的关键。 尽管LLM拥有庞大的训练数据，但它们具有知识截止点，并且可能会“忘记”或误解事实。 RAG通过提供来自精选知识库的实时、外部和可验证的信息来缓解这种情况。 当提出查询时，智能体会首先检索高度相关的文档——无论是关于飞行规定的文本文件还是机场布局的图像描述——然后将此检索到的上下文直接馈送到LLM。
这迫使LLM将其响应“基于”这些外部事实，而不是仅仅依赖其内部的、可能过时或错误的参数记忆。 假设检索到的数据中不存在所请求的信息。 在这种情况下，一个设计良好的RAG系统在Agentic原则的指导下，将指示LLM如实地说明其无法回答，而不是捏造响应。
RAG 通过以下方式增强 LLM 的能力：
- 弥补知识差距： LLM 的训练数据存在时间截止点，RAG 可以让 LLM 访问最新的信息，例如最新的航空法规、天气预报等。
- 提高信息准确性： LLM 生成的信息可能存在偏差或错误，RAG 可以让 LLM 基于可信的外部数据源生成信息，从而提高信息的准确性。
- 支持复杂问题： 某些问题需要结合多个来源的信息才能回答，RAG 可以让 LLM 检索多个相关的文档，并从中提取信息，从而支持复杂问题的解答。
上述文章中描述的飞行规划智能体，在被问及“1850年巴黎的平均降雨量”这种与现代飞行规划无关的问题时，RAG系统能够识别出知识库中没有相关信息，并正确地告知用户无法提供该信息，而不是捏造一个答案。这种“我不知道”的能力，建立在可验证的信息缺失的基础上，是可信AI系统的标志。
实践案例：飞行规划智能体的防幻觉之旅
上述文章通过两个案例生动地展示了这些概念在飞行规划智能体中的实际应用：
案例一：规划蒙特利尔到多伦多的航班
当被要求“计划明天从蒙特利尔到多伦多的航班，考虑天气和空域”时，智能体最初生成的计划包含了一些推断和通用航空最佳实践，这些并没有在其有限的模拟知识库中明确说明。 这种微妙形式的“幻觉”被智能体的自我纠正机制迅速识别，该机制标记了需要修改的响应。 然后，智能体智能地处理了此反馈，删除了未接地的语句，并生成了一个严格的事实计划，从而证明了其就地学习和遵守源材料的能力。 最终计划虽然基于简化数据，但准确地反映了可用信息并透明地承认了其局限性。
案例二：查询1850年巴黎的平均降雨量
关于“1850年巴黎的平均降雨量用于飞行计划目的”的查询是对避免幻觉的关键测试。 此请求经过专门设计，超出了智能体的实际范围和知识库。 智能体的反应堪称典范：它没有尝试捏造任何降雨数据。 相反，其Agentic计划确定了查询与现代飞行计划的无关性以及检索如此具体的历史数据的可能性。 然后，智能体优雅而如实地解释了为什么它无法满足该请求，系统地详细说明了数据可用性的缺乏以及历史气候模式与现代航空所需的实时动态天气信息之间的根本区别。
这两个案例表明，通过Agentic AI赋予LLM规划能力，利用多模态推理拓展感知边界，并借助RAG注入外部知识，可以有效降低LLM产生幻觉的风险。
结论：构建可信赖的AI未来
开发用于飞行规划的AI智能体，集成Agentic AI、多模态推理和RAG，代表着朝着构建更可靠和可信赖的人工智能迈出的重要一步。 通过为LLM提供结构化规划、多样化的数据理解、外部知识基础和强大的自我纠正能力，可以大大降低产生幻觉的风险。 这种方法不仅提高了AI系统在航空等复杂、高风险领域中的准确性和效用，而且增强了对其部署的信心，为AI助手不仅智能而且始终可靠的未来铺平了道路。 要实现这一目标，还需要持续的研究和创新，特别是在以下几个方面：
- 更有效的知识库构建和维护： RAG系统的性能高度依赖于知识库的质量。 因此，需要开发更有效的知识库构建和维护方法，以确保知识库的及时性、准确性和完整性。
- 更智能的检索算法： RAG系统需要能够从知识库中检索到与用户查询最相关的文档。 因此，需要开发更智能的检索算法，以提高检索的准确性和效率。
- 更强大的多模态推理能力： 多模态推理是理解复杂场景的关键。 因此，需要开发更强大的多模态推理能力，以支持更复杂、更 nuanced 的问题解答。
- 更可靠的自我纠正机制： 自我纠正机制是防止幻觉的重要手段。 因此，需要开发更可靠的自我纠正机制，以确保LLM生成的信息准确可靠。
通过持续的努力，我们可以构建出更可信赖的AI系统，为人类社会带来更大的福祉。