极大似然与交叉熵
教材《人工智能导论》2.3.4 · 已审核
通俗解释
分类模型常从极大似然出发构造目标。对概率输出取负对数，可把提高真实类别概率转成最小化损失的问题。
例子
真实类别是“猫”，模型训练后提高了给“猫”分配的预测概率。
容易混淆
交叉熵衡量的是概率分布与真实标签的匹配，不是普通数值距离。
检查理解
模型对正确类别给出更高概率时，损失如何变化？
查看参考答案
在其他条件相同下，真实类别概率上升，其负对数项下降，交叉熵损失随之减小。
教材《人工智能导论》2.3.4 · 已审核
分类模型常从极大似然出发构造目标。对概率输出取负对数，可把提高真实类别概率转成最小化损失的问题。
真实类别是“猫”，模型训练后提高了给“猫”分配的预测概率。
交叉熵衡量的是概率分布与真实标签的匹配，不是普通数值距离。
模型对正确类别给出更高概率时，损失如何变化？
在其他条件相同下，真实类别概率上升，其负对数项下降，交叉熵损失随之减小。