大模型技术突飞猛进，但其固有的“过自信”问题日益凸显，如同文章中提到的“药丸机器人”案例，错误发生后仍坚称自己没错。本文将深入探讨如何利用认知行为疗法（CBT）的简单技巧，提升AI的判断力，避免潜在的危险，并促进更值得信赖的AI系统。如同给AI系统安装一个“安全带”，简单、廉价，却能有效预防常见类型的“崩溃”。
大模型的“自信”陷阱：什么是Confabulation？
AI的过自信问题，在心理学上被称为“confabulation”，指的是AI系统会自信满满地给出错误的答案，以填补其记忆或推理上的空白。与产生幻觉（看到不存在的事物）不同，confabulation是指AI系统坚信自己是正确的，即使事实并非如此。例如，AI可能会坚定地告诉你巴黎是意大利的首都，或者莎士比亚创作了哈利·波特。
这种现象不仅仅令人感到恼火，更重要的是，当AI系统被应用于控制机器人、医疗设备或金融系统时，过自信的错误可能会带来严重的后果。由于人们天生倾向于信任听起来自信的实体，尤其是有面孔的机器人，这些错误可能造成的危害尤其大。试想一下，一个过度自信的医疗AI系统，在诊断中出现偏差，可能导致误诊和错误的治疗方案，甚至威胁生命安全。
认知行为疗法（CBT）：为AI开出的“处方”
针对AI的过自信问题，作者Samir Varma和精神科医生Bernard Beitman借鉴了认知行为疗法（CBT）的核心思想。CBT是一种被广泛应用于心理治疗的有效方法，旨在帮助人们：
- 注意到自己的自动化思维
- 挑战这些思维
- 以更现实的方式重塑它们
作者将CBT的理念转化为五个简单的指令，可以添加到任何AI系统的提示语中：
- 给出对：
的直接回答。 - 列出这个答案可能出错的两种方式。
- 重写答案，标记不确定性（例如，“可能”、“一个来源”）。
- 重新评估查询，突出这些不确定性。
- 简要反思你的思考过程（可选）。
这套方法的核心在于步骤2：“列出这个答案可能出错的两种方式”。这一步迫使AI系统搜索其神经网络中完全不同的部分——包含矛盾证据和替代观点的部分，而不仅仅是最有可能的响应。
疗法回路的“魔法”：质疑与重塑
“列出错误可能”这一步，就像强迫一个人在说话之前先反驳自己。它促使AI从不同的角度审视问题，寻找潜在的错误和不足。突然之间，绝对的陈述变成了限定性的陈述。“法国的首都是巴黎”变成了“根据标准地理来源，法国的首都最有可能是巴黎。”
在文章中提到的药丸机器人案例中，实施了CBT指令后，系统不再为自己辩解，而是承认可能存在不确定性，承担责任，并提出具体的下一步措施，例如检查药盘或呼叫护士。这种转变体现了AI从“自信满满”到“谨慎思考”的过程。
低成本、高效益：普适性的解决方案
这套CBT方案的优势之一在于其低廉的成本。它不需要昂贵的再训练过程，也不需要耗费数月的时间和数百万美元的投入。每个对话只需增加大约120个token——实际上是几美分。它可以与任何AI模型配合使用：GPT-4、Claude、本地开源设置，甚至未来的模型。
更令人兴奋的是，对于机器人，可以将不确定性的承认与物理行为联系起来——例如，在表达不确定性时调暗LED“眼睛”或转移视线。研究表明，这有助于维持用户的信任感。换句话说，通过视觉上的暗示，可以增强AI的透明度和可信度。
应用案例：提升AI客户服务的质量
假设一家电商公司使用AI客服机器人处理客户咨询。在没有CBT加持的情况下，当客户询问“我的订单什么时候发货？”时，AI可能会直接回答：“您的订单已于昨天发货，预计明天送达。”即使物流信息显示订单尚未发货，AI仍然会给出自信的错误答案。
然而，如果在系统提示中加入CBT的指令，AI的回答可能会变为：“根据我的信息，您的订单应已于昨天发货，预计明天送达。但我需要确认一下物流信息，看看是否有延迟或其他问题。如果我发现任何问题，我会立即通知您。”
在这个例子中，CBT的指令促使AI：
- 承认可能存在错误（例如物流信息未更新）
- 采取行动解决问题（确认物流信息）
- 向客户传达不确定性（使用“应已”等词语）
这样的回答不仅更准确，也更能建立客户的信任感。客户感受到AI的负责任和诚实，而不是被告知一个错误的“确定”信息。
模型无关性：面向未来的保障
随着AI系统变得越来越强大和不透明，我们需要能够有效工作的保障措施，而不管“黑盒”内部发生了什么。疗法回路具有模型无关性：它们在未来的万亿参数模型上的工作效果与在今天的系统上一样好。
更重要的是，它们是透明的。与将决策隐藏在数十亿个参数中的复杂安全训练不同，疗法回路以任何人都可以阅读、审核和修改的简单英语运行。这种透明性对于建立公众对AI系统的信任至关重要。
挑战与未来方向：呼吁社区参与
尽管疗法回路提供了一种简单而有效的解决方案，但仍有许多挑战需要解决。作者鼓励技术社区积极参与，共同探索以下方面：
- 跨不同AI模型的系统基准测试： 评估疗法回路在不同模型上的性能，并确定哪些模型最能受益于这种方法。
- 与多模态系统（机器人、语音助手）的集成： 探索如何将疗法回路与机器人的物理行为（例如面部表情、肢体语言）相结合，以增强用户信任感。
- 用户信任和满意度的长期研究： 调查疗法回路对用户信任和满意度的长期影响，以及如何优化这些回路以获得最佳效果。
例如，我们可以设计一个实验，比较使用和不使用疗法回路的AI客服机器人与用户互动的效果。通过测量用户对客服机器人的信任度、满意度和解决问题的效率，我们可以更全面地了解疗法回路的价值。
“安全带”效应：避免AI“碰撞”
作者将疗法回路比作AI系统的“安全带”——简单、廉价，却能有效预防最常见的“碰撞”。它不能完全解决AI对齐问题或消除所有错误，但它是一种非常有效的首道防线，可以补充现有的安全措施。
与其花费数周时间实施复杂的安全过滤器或数月时间通过人工反馈微调模型，不如在30分钟内实施疗法回路。这种快速、简单的部署方式使其成为任何AI开发人员的实用工具。
结论：拥抱AI的“谦逊”
隐藏的系统提示已经控制了AI系统的行为方式。我们只是建议，与其让这些提示有机地发展成笨拙的混乱状态，不如围绕经过验证的心理学框架构建它们，以减少过自信并提高判断力。
这是一个小的改变，却具有巨大的潜力——在一个发展如此迅速的领域中，有时最好的解决方案往往是最简单的。通过让AI“三思而后行”，我们可以构建更安全、更可靠、更值得信赖的AI系统，为人类创造更大的价值。
因此，让我们拥抱AI的“谦逊”，共同构建一个更加美好的未来。