梯度下降法
教材《人工智能导论》2.4.1 / 内部第2点 · 已审核
通俗解释
梯度下降按当前点的负梯度方向,以一定步长反复更新参数,以降低目标函数值。
例子
从损失曲面上的一个参数点出发,沿负梯度方向走一小步,再重新计算下一步方向。
容易混淆
沿负梯度更新不保证在非凸目标中找到全局最优点。
检查理解
用自己的话解释“梯度下降法”在“解析解与梯度下降法”中的作用,并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。
查看参考答案
要点:梯度下降按当前点的负梯度方向,以一定步长反复更新参数,以降低目标函数值。 示例:从损失曲面上的一个参数点出发,沿负梯度方向走一小步,再重新计算下一步方向。