最小二乘与均方误差
教材《人工智能导论》2.3.2,2.4.1 · 已审核
通俗解释
线性回归可通过最小化残差平方和或均方误差估计参数。解析解在条件允许时提供直接求解思路，规模和矩阵条件会限制其适用性。
例子
一组房价预测分别比真实值高出和低于若干金额，计算各残差平方的平均值。
容易混淆
训练误差小不必然意味着对新数据预测好。
检查理解
为何把残差平方后求平均可作为回归目标？
查看参考答案
平方让正负误差不会相互抵消，并对大误差给出更高惩罚；求平均便于比较不同样本集上的目标值。
教材《人工智能导论》2.3.2,2.4.1 · 已审核
线性回归可通过最小化残差平方和或均方误差估计参数。解析解在条件允许时提供直接求解思路，规模和矩阵条件会限制其适用性。
一组房价预测分别比真实值高出和低于若干金额，计算各残差平方的平均值。
训练误差小不必然意味着对新数据预测好。
为何把残差平方后求平均可作为回归目标？
平方让正负误差不会相互抵消，并对大误差给出更高惩罚；求平均便于比较不同样本集上的目标值。