LLM

解码知识图谱(KG)、大模型(LLM)与智能体(Agent):简易指南

知识图谱是一种特殊类型的图,它由节点和边构成,用于描述现实世界中各种实体之间的关系。其中,节点代表各种 “事物” 或实体;边则表示节点之间的联系,像 “居住在”“位于”“购买” 等关系。与普通图不同的是,知识图谱为节点和关系添加了标签和属性,使其包含丰富的信息。

深入剖析大模型技术综述

大语言模型(LLMs)能够理解人类语言并生成高度拟人的文本内容,广泛应用于诸多领域。从智能客服到智能写作,从语言翻译到知识问答,大语言模型的身影无处不在。因此,深入了解大模型技术的原理、应用、实践方法、面临的伦理问题及局限,对把握这一前沿技术的发展脉络和正确应用至关重要。

大模型量化:提升效率的关键技术

大模型量化是指将模型中的高精度参数(如32位浮点数)转换为低精度参数(如8位或4位整数)的过程,旨在减少模型的存储空间和计算复杂度,同时尽可能保持模型的性能。量化技术可以分为两类:静态量化和动态量化。静态量化在模型训练完成后进行,而动态量化则在模型推理过程中动态调整参数精度。