sklearn 维度问题 "Found array with dim 3. Estimator expected <= 2"

sklearn dimensionality issues "Found array with dim 3. Estimator expected <= 2"

我正在尝试使用 KNN 将 .wav 文件正确分类为两组,第 0 组和第 1 组。

我提取数据、创建模型、拟合模型,但是当我尝试使用 .predict() 方法时,出现以下错误:

Traceback (most recent call last):   
File "/..../....../KNN.py", line 20, in <module>
    classifier.fit(X_train, y_train)   
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/sklearn/neighbors/base.py", line 761, in fit
    X, y = check_X_y(X, y, "csr", multi_output=True)   
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/sklearn/utils/validation.py", line 521, in check_X_y
    ensure_min_features, warn_on_dtype, estimator)   
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/sklearn/utils/validation.py", line 405, in check_array
    % (array.ndim, estimator_name)) 
ValueError: Found array with dim 3. Estimator expected <= 2.

我找到了描述类似问题的这两篇 Whosebug 帖子:

而且,如果我错了请纠正我,但 scikit-learn 似乎只能接受二维数据。

我的训练数据有形状 (3240, 20, 5255) 其中包括:

我的测试数据的形状是 (3240,) #category 是 0 或 1

我可以使用什么代码来操纵我的训练和测试数据,将其转换为 scikit-learn 可用的形式?还有,从3维降到2维,如何保证数据不丢失?

没错,sklearn 只适用于二维数据。

您可以尝试做的事情:

  • 只需对训练数据使用 np.reshape 即可将其转换为形状 (3240, 20*5255)。它将保留所有原始信息。但是 sklearn 将无法利用此数据中的隐式结构(例如,特征 1、21、41 等是同一变量的不同版本)。
  • 在您的原始数据上构建一个卷积神经网络(例如使用 tensorflow+Keras 堆栈)。 CNN 专门设计用于处理此类多维数据并利用其结构。但是他们有很多超参数需要调整。
  • 对重塑为 (3240, 20*5255) 的数据使用降维(例如 PCA)。它会尝试保留尽可能多的信息,同时仍然保持较低的特征数量。
  • 使用手动特征工程从数据结构中提取特定信息(例如每个维度的描述性统计信息),并根据这些特征训练您的模型。

如果您有更多数据(例如 100K 个示例),第一种方法可能效果最好。在您的情况下(3K 示例和 10K 功能),您需要对模型进行大量正则化以避免过度拟合。