输出用于训练 BaggingClassifier 的每个 base_estimator 的实例子集

Question

我正在使用带有 BaggingClassifier 的决策树桩来class验证一些数据：

def fit_ensemble(attributes,class_val,n_estimators):

    # max depth is 1
    decisionStump = DecisionTreeClassifier(criterion = 'entropy', max_depth = 1)

    ensemble = BaggingClassifier(base_estimator = decisionStump, n_estimators = n_estimators, verbose = 3)
    return ensemble.fit(attributes,class_val)

def predict_all(fitted_classifier, instances):
    for i, instance in enumerate(instances):
        instances[i] = fitted_classifier.predict([instances[i]])
    return list(itertools.chain(*instances))

def main(filename, n_estimators):

    df_ = read_csv(filename)

    col_names = df_.columns.values.tolist()
    attributes = col_names[0:-1] ## 0..n-1
    class_val = col_names[-1] ## n

    fitted = fit_ensemble(df_[attributes].values, df_[class_val].values, n_estimators)
    fitted_classifiers = fitted.estimators_ # get the three decision stumps.

    compared_ = DataFrame(index = range(0,len(df_.index)), columns = range(0,n_estimators + 1))
    compared_ = compared_.fillna(0)
    compared_.ix[:,n_estimators] = df_[class_val].values

    for i, fitted_classifier in enumerate(fitted_classifiers):
        compared_.ix[:,i] =  predict_all(fitted_classifier,df_[attributes].values)

我想检查用于训练每个决策树桩的随机子集。我查看了集成和决策树的文档 class，但没有找到任何产生训练子集的属性或方法。这是徒劳的任务吗？或者有什么方法可以在树训练时输出训练子集吗？

我是 pandas 的新手，但有 R 背景。我的代码绝对没有优化，但我可以保证数据集对于我的任务来说非常小。谢谢您的帮助。

Answer 1

看来我已经回答了我自己的问题。 DecisionTreeClassifier 的 estimators_samples_ 属性是我想要的。

输出用于训练 BaggingClassifier 的每个 base_estimator 的实例子集

Output the subset of instances used to train each base_estimator of a BaggingClassifier

python

machine-learning

pandas

scikit-learn