具有等式约束的 Nelder-Mead 优化

Nelder-Mead optimization with equality constraints

我想使用函数fminsearch matlab 使用加权 RBF 核分类器搜索我的 SVM 的最佳超参数。 fminsearch 使用 Nelder-Mead 单纯形法。

假设我有以下超参数:C, gamma, w1...wn 其中 wi是内核的权重。

此外,我有 sum(wi) = 1 的约束,即所有权重总和必须为一。

是否可以使用具有此等式约束的 Nelder-Mead?我知道有 fminsearchbnd Matlab 的方法,但我认为它只能处理边界不等式约束。

编辑:我正在使用 SVM 分类器,权重用于加权 RBF 核(每个特征一个权重)。因此,要估计的参数是 C、伽玛和权重。代价函数就是准确率。

你能替换掉 w(i) 中的一个吗?这意味着,替换例如w1 by 1-w2-w3-...(并删除约束)。否则请查看允许显式约束的 fmincon 。此外,您可能需要 0 <= w(i) <= 1.