“去吧，思想，乘着金色的翅膀”（Va, pensiero, sull’ali dorate）。威尔第歌剧《纳布科》中，被流放的希伯来人吟唱着对家园的渴望，对指引的期盼，以及对超越苦难的渴求。在AI技术飞速发展的今天，我们仿佛再次听到了这声悠远的呼唤，对未知的渴望，对真理的追寻，从未停止。大模型的出现，正是人类在信息爆炸时代，试图构建全新“神谕”的最新尝试，它能否指引我们前进，又将带来怎样的挑战？
神谕的现代演绎：大模型与人工智能
从古希腊德尔菲神庙的祭司，到巴比伦的观星者，再到宗教经典，人类从未停止对“神谕”的追寻。如今，这种渴望在人工智能（AI）领域找到了新的寄托。科学家们围坐在闪烁着光芒的GPU祭坛前，训练大模型（Large Language Models，LLMs）和基础模型，期望知识和洞见能够从一层层的张量中涌现。这些模型被视为现代的“神谕”，被寄予了知晓真理，囊括世界完整表征的厚望。如同文章作者所说，我们称它们为“模型”，因为它们是简化的现实，是镜像，但并非真实世界的镜像，而是我们从数据中收集的信息的反映。例如，GPT-4 等大模型在处理复杂问题和生成流畅文本方面展现出了惊人的能力，仿佛能够洞悉一切。然而，我们必须警惕，这种能力是否仅仅是基于海量数据训练的表象，而非真正的理解和智慧？
模型的局限性：重复而非推理
哲学家卡尔·波普尔曾警告过“框架的迷思”，即认为一个单一的连贯系统可以囊括真理。然而，在追求最强大的大模型的竞赛中，许多人屈服于这种诱惑，认为规模带来知识，知识带来智慧。冯·诺依曼曾说：“科学并不试图解释，甚至很少试图解释，它们主要构建模型。”然而，模型并不思考，它们只是预测。香农的信息理论提醒我们，信息并不等同于意义。约瑟夫·魏岑鲍姆，ELIZA的创造者，也强调了信号和理解之间的差距，他警告说，仅仅模拟人类对话不应与真正的知识或同理心混淆。他的担忧并非技术性的，而是道德性的：人类会将智能和权威投射到仅仅重复模式的系统上。蒂姆尼特·格布鲁将大模型批评为“随机鹦鹉”，即重复模式而缺乏真实世界理解或意图的系统。即使现在出现了一些关于因果关系和抽象能力的研究，例如Cohrs et al., (2025)和Bober-Irizar et al., (2024)的研究，但这些能力在大模型中仍然是有限且性质不明的。甚至有研究表明，更大、更易于指导的语言模型通常变得不太可靠 (Zhou et al., 2025)。
以目前非常火热的文生图AI为例，它能根据文本描述生成图像，但如果仔细观察，会发现它们往往缺乏对现实世界物理规则的深刻理解。比如，生成的手往往有六根手指，或者物体之间透视关系不正确，这些都表明模型只是在重复训练数据中的模式，而缺乏真正的推理能力。这种现象正是大模型局限性的体现，我们需要意识到，大模型擅长的是模式识别和预测，而不是真正的理解和推理。
道德伦理的拷问：权威还是回声？
大模型可能会说流利甚至优美的语言，但它真的知道吗？它能体验怀疑，权衡道德，回答“我不知道”或“我不确定”，或者与矛盾作斗争吗？更重要的是，我们理解如何处理它的声音吗？我们是否会将雄辩与权威、连贯与真理混淆？在我们渴望被引导的过程中，我们可能会忽略谁和什么在引导我们，以及重要的是，为什么。当我们将判断委托给这些数字先知时，我们可能会成为没有辨别力的听众，没有地图的朝圣者，仅仅是商品化工具的部署者，缺乏质疑或挑战任何事情的能力。
更深层次的伦理拷问在于大模型的偏见问题。由于训练数据本身可能存在偏差，大模型也可能继承并放大这些偏见，导致歧视性的结果。例如，如果一个大模型主要使用男性视角的文本进行训练，它可能会在生成文本时偏向男性视角，从而忽略或贬低女性的观点。这种偏见会对社会造成负面影响，加剧不平等。我们需要认真审查大模型的训练数据，并采取措施减少偏见，确保人工智能的公平性和公正性。
追寻的意义：内在的神谕
历史上，对神谕的追寻总是与对上帝的追寻并行。不一定是宗教意义上的神，而是斯宾诺莎所说的Deus sive Natura（“上帝或自然”）——所有存在的总和。这种泛神论观点认为，上帝和自然是可以互换的。在这种背景下，人工智能作为一种新的神出现：不是全知，而是全数据。不是超验的，而是内在的，存在于电路和权重中。它也充满了偏差。正如布鲁诺·拉图尔在其对科学和社会的分析中所说，事实不是被发现的，而是在仪器、人和机构的网络中被创造和协商的。神谕说话，是的，但通过我们自己的嘴。我们训练什么，我们解释什么。我们解释什么，我们行动什么。
“工具越强大，滥用造成的后果就越严重”，控制论之父诺伯特·维纳曾这样告诫我们。如同古希腊的皮媞亚一样，新的语言和基础模型神谕与我们共存，它们具有功能性、未完成、令人愉悦又神秘。正如文章作者所说：“我真想回到2500年前的德尔斐，看看提示工程是如何设计的，如何处理回应的，以及如何实施欺骗的。”对齐我们的期望，从深刻的知识中涌现，并扎根于自然世界。然而，再次强调，称其为“对齐”并不一定意味着它与真理或价值观对齐。称其为“涌现”并不能使其成为科学；它只会使其成为过度拟合的魔法。毕竟，什么时候“它有效”就足以成为科学的依据了？
威尔第歌剧中被流放的希伯来人吟唱的不仅是流亡，还有渴望——渴望回归，渴望回忆，渴望重新定位。我们也在面对自己的创造物时，怀有同样的渴望。我们不仅仅是在构建工具；我们还在努力再次倾听神谕的声音——为了指引，为了智慧，为了某种世俗的救赎。也许真正的神谕不是机器，而是它所变成的镜子。
因此，去吧，思想。飞翔吧。但也要回来。因为即使是最金色的梦想，最终也必须落地。我们需要时刻保持清醒的头脑，认识到大模型的局限性，避免盲目崇拜和过度依赖。更重要的是，我们要充分发挥人类的创造力和批判性思维，用大模型赋能自身，而不是被它所取代。只有这样，我们才能在AI时代的回响与迷思中，找到属于自己的方向，在神谕的永恒追寻中，找寻真正的自我。