LLM Evaluation 评估大型语言模型(LLM):语义熵的应用 llmtrend 2025年4月7日 没有评论 熵是信息论中的一个基本概念,它量化了一个随机过程输出的不确定性,在现代机器学习模型中,包括深度神经网络(DNNs),起着至关重要的作用。熵测量模型对给定输入的预测概率分布的分散程度。更高的熵表示模型输出的不确定性更大。