梯度向量原来就是等高线的法线, 代表了变化最快的方向
合同变换的概念
拉格朗日乘子法最好的理解方式看马同学写的, 我这里想说明一下 KKT 条件中, 不等约束的参数 u 为何要大于 0.
因为不等约束边界上的梯度向量总是指向边界外, 而对于该约束条件有用的情况下, 意味着目标函数极值点也在边界外, 所以若求极大值, u>0 表示目标函数梯度向量与不等约束函数梯度向量同向. 求极小值 u>0 表示向量反向. 这样总是要求 u>0 的. 不起约束作用时, u=0
西瓜书果然难啃....
对偶问题不是很明白, 先找本凸优化书看看吧, 今天就到此为止了
来源: http://www.bubuko.com/infodetail-3278523.html