Scikit-learn 具有依赖于训练特征的自定义记分器的分类器

Question

我正在尝试使用 自定义记分器 训练 RandomForestClassifier，其输出需要依赖于其中一个特征。

X 数据集包含 18 个特征：

y 是通常的 0 和 1 数组：

带有自定义记分器的 RandomForestClassifier 在 GridSearchCV 实例中使用： GridSearchCV(分类器, param_grid=[...], scoring=custom_scorer).

自定义记分器是通过 Scikit-learn 函数 make_scorer 定义的： custom_scorer = make_scorer(custom_scorer_function, greater_is_better=True).

如果 custom_scorer_function 仅依赖于 y_true 和 y_pred[=，则此框架非常简单66=]。但是在我的例子中，我需要定义一个记分器，它利用 X 数据集中包含的 18 个特征之一，即取决于 [=95= 的值] 和 y_true 自定义分数将是它们和特征的组合。

我的问题是如何将该功能传递给 custom_scorer_function，因为它的标准签名接受 y_true 和 y_pred?

我知道它接受额外的 **kwargs，但以这种方式传递整个特征数组并不能解决问题，因为每对 y_true[ 都会调用此函数=66=] 和 y_pred 值（需要提取与它们对应的单个特征值才能使其正常工作，我不确定是否可以完成）。

我试图扩充 y_true 数组，将该功能打包到其中并在 custom_scorer_function（第一列是实际标签，第二列是我需要计算自定义分数的特征值）：

但是这样做违反了分类器具有一维标签数组的要求并触发了以下错误。

ValueError：未知标签类型：'continuous-multioutput'

非常感谢任何帮助。

谢谢。

Answer 1

你可以这样做（注意你没有给出真正的代码，所以这是准系统）

X = [...]
y = [...]

def custom_scorer_function(y, y_pred, **kwargs):
   a_feature = X[:,1]
   # now have y, y_pred and the feature you want

custom_scorer = make_scorer(custom_scorer_function, greater_is_better=True)
...

Scikit-learn 具有依赖于训练特征的自定义记分器的分类器

Scikit-learn classifier with custom scorer dependent on a training feature

python

classification

machine-learning

scikit-learn

grid-search