为什么 KKT 条件下的 alpha 必须大于或等于零

Question

当我读SVM的时候，我对KKT条件很困惑，我想知道为什么它设置alpha >=0，我的猜测是因为约束是g(x)<=0，如果alpha < 0，那么最大化没有意义，只需设置 alpha = -Inf。我对吗？

Answer 1

这可能是一个迟到的答案，但我将我的理解写在这里以供其他访问者使用。

α>=0 是将原始问题转换为对应的对偶问题时得到的约束。即使暂时搁置KKT条件，将一个原始优化问题转化为一个对偶问题，也会要求α>=0。我建议你详细了解一下凸优化和拉格朗日乘子的理论，把概念弄清楚。