局部极小值与鞍点
教材《人工智能导论》2.4.2 / 内部第1点 · 已审核
通俗解释
在梯度下降方法中，参数的更新依赖于目标函数在当前点处的梯度信息。 当目标函数关于参数的梯度为零时，更新方向消失，基于梯度的信息将无法进一步指导参数的优化，此时优化过程可能出现停滞。
例子
一个参数点梯度为零，但沿某个方向移动仍可使损失下降，这可能是鞍点。
容易混淆
梯度为零既可能对应极小值，也可能对应鞍点或平坦区域。
检查理解
用自己的话解释“局部极小值与鞍点”在“非凸优化挑战”中的作用，并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。
查看参考答案
要点：在梯度下降方法中，参数的更新依赖于目标函数在当前点处的梯度信息。 当目标函数关于参数的梯度为零时，更新方向消失，基于梯度的信息将无法进一步指导参数的优化，此时优化过程可能出现停滞。 示例：一个参数点梯度为零，但沿某个方向移动仍可使损失下降，这可能是鞍点。