目录
一、概述
二、池化分类
1、Max Pooling:最大池化
2、Average Pooling:平均池化?
三、池化作用
1.、invariance(不变性),
2、降维度
3、增大感受野
4、获得定长输出。
5、防止过拟合或有可能会带来欠拟合。
6、减小计算量和内存消耗
7、非线性和鲁棒性
8、聚合特征
9、下采样(downsamping)
一、概述
? ? ?池化(Pooling):也称为欠采样或下采样。主要用于特征降维,压缩数据和参数的数量,减小过拟合,同时提高模型的容错性。
? ? ? ?上图就是一个池化的示意图,用了一个10*10的卷积核,对20*20的图像分块不重叠的进行了池化,池化之后featuremap为2*2的大小。
二、池化分类
1、Max Pooling:最大池化
Max Pooling:选取最大的,我们定义一个空间邻域(比如,2*2的窗口),并从窗口内的修正特征图中取出最大的元素,最大池化被证明效果更好一些。
2、Average Pooling:平均池化?
Average Pooling:平均的,我们定义一个空间邻域(比如,2*2的窗口),并从窗口内的修正特征图中算出平均值。
3、其它类型的池化
三、池化作用
1.、invariance(不变性),
? ? ?这种不变性包括translation(平移),rotation(旋转),scale(尺度)。
2、降维度
? ? 降低优化难度和参数。保留主要的特征同时减少参数(降维,效果类似PCA)和计算量,防止过拟合,提高模型泛化能力。
3、增大感受野
4、获得定长输出。
? ? 文本分类的时候输入是不定长的,可以通过池化获得定长输出
5、防止过拟合或有可能会带来欠拟合。
6、减小计算量和内存消耗
7、非线性和鲁棒性
8、聚合特征
9、下采样(downsamping)
|