迁移学习和线性分类器

Transfer Learning and linear classifier

在 cs231n 讲义 here 中,它说

New dataset is small and similar to original dataset. Since the data is small, it is not a good idea to fine-tune the ConvNet due to overfitting concerns... Hence, the best idea might be to train a linear classifier on the CNN codes.

我不确定线性分类器是什么意思。线性分类器是指最后一个全连接层吗? (比如Alexnet中有3个全连接层,线性分类器是不是最后一个全连接层?)

通常当人们说 "linear classifier" 时,他们指的是 Linear SVM (support vector machine)。线性 class 学习器学习权重向量 w 和阈值(又名 "bias")b 这样对于每个示例 x

<w, x> + b

对 "positive" class 为正,对 "negative" class 为负。

神经网络的最后(通常是完全连接的)层可以被认为是线性 classifier 的一种形式。