代价函数: 又称损失函数, 我的理解是用于更好地拟合样本, 得到更合适模型的一个方法.
在线性回归中, 假设函数为 hθ(x)= θ0 +θ1 * x , 其中θ0 和θ1 的变化会引起假设函数的变化, 参数的选择决定了我们得到的直线相对于训练集的准确度.
为了让预测值和真实值的误差尽可能小和最小化θ0 和θ1, 我们将这个问题转化为找到能使训练集中预测值和真实值的差的平方的和的 1/2M 最小的θ0 和θ1 的值.
于是我们定义
为代价函数, 又称为平方误差函数, 它是解决回归问题最常用的手段. 其中 m 代表训练集样本数量, xi 代表第 i 个样本, hθ(xi) 代表第 i 个样本对应的预测值, yi 代表第 i 个样本对应的真实值.
来源: https://www.cnblogs.com/feng-fengfeng/p/12213081.html