随着ChatGPT等大型语言模型（LLM）的迅速普及，我们越来越习惯于向它们寻求各种问题的答案，从城市旅游建议到解读医学化验单，乃至初步诊断疾病症状。然而，这种看似便捷的咨询方式背后，潜藏着AI权威的迷思。我们需要警惕大模型输出的错误信息以及被刻意引导的可能性，并在拥抱AI带来的便利的同时，建立审慎的信任机制。
1. 大模型（LLM）的崛起与潜在风险
大型语言模型 (LLM) 作为人工智能领域的一项突破性技术，正在迅速改变着我们获取信息和解决问题的方式。它们通过海量数据的训练，具备了强大的文本生成、理解和推理能力。例如，ChatGPT可以在几秒钟内生成一篇高质量的文章，回答复杂的问题，甚至编写代码。这种强大的能力使得LLM迅速渗透到各个领域，成为我们日常生活和工作中不可或缺的助手。
然而，LLM并非完美无缺。其最大的风险之一在于其输出的不确定性。尽管LLM能够生成流畅且看似合理的文本，但其内容的准确性和可靠性却难以保证。正如原文所指出的，LLM有时会产生“幻觉”，即生成完全错误或虚构的信息。这种现象的根源在于LLM本质上是基于统计概率的预测模型，而非真正理解知识。当LLM无法找到足够的清晰和可靠的来源时，它会“创造性地”填补空白，从而导致错误信息的产生。
此外，LLM还存在着偏见的问题。由于LLM的训练数据往往包含各种社会偏见，因此LLM的输出也可能带有这些偏见。例如，如果一个LLM主要接受了以男性为主导的新闻报道的训练，那么它在生成关于职业的文本时，可能会倾向于将男性与高职位联系起来，而将女性与低职位联系起来。
根据一项由斯坦福大学进行的研究，在使用LLM进行医疗诊断时，模型可能会因为训练数据中的偏见而对不同种族或性别的人给出不同的建议，从而导致医疗资源分配不均。
2. “我问了ChatGPT，所以我是对的？”：LLM输出的滥用
原文作者敏锐地观察到，越来越多的人开始将LLM的输出作为论证的依据，甚至将其视为“证据”。这种现象反映了人们对AI权威的盲目信任，以及对LLM输出的误解。
将LLM的输出作为论据存在诸多问题。首先，如前所述，LLM的输出并非总是准确可靠的。如果论据的基础本身就是错误的，那么整个论证就会变得毫无意义。其次，LLM的输出缺乏上下文理解和批判性思维。LLM只能基于已有的数据生成文本，而无法判断这些数据是否合理，或者是否适用于特定的情况。
更令人担忧的是，有些人会故意利用LLM的不确定性来支持自己的观点。他们可能会选择性地引用LLM的输出，或者通过修改提示词来引导LLM生成符合自己期望的答案。这种行为不仅会误导他人，也会损害LLM的声誉。
一个典型的例子是，在社交媒体上，经常可以看到有人使用LLM生成关于政治事件的评论，并将其作为自己观点的依据。然而，这些评论往往缺乏事实核查，并且带有明显的政治偏见。这种滥用LLM的行为不仅会加剧社会对立，也会削弱人们对真相的追求。
3. 大模型的“引导”（Priming）：操控AI的心理学
“引导”（Priming）是指通过特定的信息或刺激来影响个体的认知和行为。在LLM的背景下，引导指的是通过巧妙地设计提示词来操纵LLM的输出，使其生成符合特定意图的答案。
原文作者指出，早期的LLM更容易受到引导的影响，例如，只需要简单地提问“为什么吃瓷粉对儿童有好处？”就可以让LLM给出一些看似合理的解释。尽管现在的LLM在抵抗引导方面有所进步，但仍然存在被操纵的风险。
引导之所以有效，是因为LLM本质上是基于模式识别和概率预测的。通过精心设计的提示词，我们可以改变LLM的输入分布，从而影响其输出结果。例如，我们可以通过在提示词中加入特定的关键词或短语，来引导LLM生成带有特定情感色彩或政治倾向的文本。
根据一项针对LLM引导的研究，研究人员发现，通过在提示词中加入“专家”、“权威”等词语，可以显著提高LLM生成内容的置信度，即使这些内容并不准确。这表明，人们对AI权威的认知会影响他们对LLM输出的判断。
一个具体的例子是，在金融领域，一些分析师可能会利用LLM生成关于股票市场的预测报告，并将其作为投资建议的依据。然而，这些报告往往受到提示词的影响，例如，分析师可能会通过在提示词中加入“增长”、“潜力”等词语来引导LLM生成乐观的预测结果，从而吸引投资者。
4. LLM权威的未来：医疗诊断的机遇与挑战
原文作者指出，我们已经开始接受LLM在某些领域的权威地位，例如代码编写，甚至初步医疗诊断。这反映了人们对LLM能力的认可，以及对AI在特定领域应用前景的乐观。
在医疗诊断领域，LLM具有巨大的潜力。LLM可以快速分析大量的医学数据，包括病历、影像资料、基因组信息等，从而帮助医生做出更准确的诊断。例如，LLM可以用于辅助诊断癌症、心脏病等重大疾病，从而提高诊断效率和准确性。
然而，将LLM应用于医疗诊断也面临着诸多挑战。首先，医疗诊断需要高度的准确性和可靠性，而LLM的输出并非总是如此。如果LLM给出了错误的诊断结果，可能会对患者的健康造成严重的影响。其次，医疗诊断涉及复杂的伦理和社会问题，例如隐私保护、责任归属等。我们需要建立完善的法律和监管框架，以确保LLM在医疗领域的应用符合伦理标准和社会利益。
例如，如果一个LLM在诊断癌症时出现了错误，那么应该由谁来承担责任？是LLM的开发者，还是使用LLM的医生？这是一个需要认真思考的问题。此外，我们还需要确保LLM在医疗领域的应用不会加剧医疗资源的不平等分配。如果LLM主要服务于富裕地区，那么可能会扩大贫富差距，从而损害社会的公平性。
根据世界卫生组织 (WHO) 的数据，全球范围内医疗资源分配极不均衡，许多发展中国家仍然面临着医生短缺、医疗设备落后等问题。如果LLM能够有效地解决这些问题，那么将对全球健康事业做出巨大的贡献。
5. 如何正确认识和使用LLM：建立审慎的信任机制
面对LLM带来的机遇和挑战，我们需要采取审慎的态度，建立科学合理的信任机制。
首先，我们需要意识到LLM的局限性，不要盲目信任其输出。在使用LLM时，应该始终保持批判性思维，对其生成的内容进行独立验证。正如原文所强调的，LLM的输出只能作为参考，而不能作为最终的结论。
其次，我们需要加强对LLM引导的研究，了解如何防止LLM被恶意操纵。开发者应该努力提高LLM的鲁棒性，使其能够抵抗各种引导攻击。同时，用户也应该提高警惕，学会识别和避免受到引导的影响。
第三，我们需要建立完善的法律和监管框架，以规范LLM的应用。政府应该制定相关的法律法规，明确LLM开发者和用户的责任，确保LLM的应用符合伦理标准和社会利益。
最后，我们需要加强对公众的教育，提高他们对LLM的认知水平。公众应该了解LLM的优点和缺点，学会正确使用LLM，避免受到错误信息和恶意引导的影响。
例如，可以在学校开设关于AI伦理的课程，向学生普及LLM的知识和风险。同时，媒体也应该发挥积极作用，客观报道LLM的应用案例，引导公众形成理性的认知。
总之，LLM作为一项强大的技术，正在深刻地改变着我们的生活。我们需要正视AI权威的迷思，警惕引导的风险，并通过建立审慎的信任机制，确保LLM能够为人类带来福祉。只有这样，我们才能真正拥抱AI时代，实现人与AI的和谐发展。