批量梯度下降
教材《人工智能导论》2.4.1 / 内部第3点 · 已审核
通俗解释
全批量方法每次利用全部样本计算梯度；数据量大时单步计算和显存开销较高，因此常用小批量更新。
例子
在同一数据集上比较每步用全部样本和每步用小批量样本计算梯度的更新轨迹。
容易混淆
全批量梯度稳定，但每步都遍历全部样本，不能据此认定它总是最快。
检查理解
用自己的话解释“批量梯度下降”在“解析解与梯度下降法”中的作用，并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。
查看参考答案
要点：全批量方法每次利用全部样本计算梯度；数据量大时单步计算和显存开销较高，因此常用小批量更新。 示例：在同一数据集上比较每步用全部样本和每步用小批量样本计算梯度的更新轨迹。