[人工智能]动手学深度学习——池化层

1、二维最大池化

返回滑动窗口中的最大值

2、填充、步幅、和多个通道

池化层与卷积层类似，都具有填充和步幅；

没有可学习的参数；

在每个输入通道应用池化层以获得相应的输出通道；

输出通道数=输入通道数；

3、平均池化层

最大池化层：每个窗口中最强的模式信号

平均池化层：将最大池化层中的最大操作替换为平均；

4、总结

池化层返回窗口中最大或平均值；

缓解卷积层对位置的敏感性；

同样有窗口大小、填充和步幅作为超参数。

5、代码实现

"""二维最大池化层和平均池化层"""
import torch
from torch import nn
def pool2d(X, pool_size, mode='max'):#X是输入 ，pool_size是窗口的大小，
   X = X.float()
   p_h, p_w = pool_size #池化窗口的高和宽
   Y = torch.zeros(X.shape[0] - p_h + 1, X.shape[1] - p_w + 1)
   #输出=输入的高-窗口的高+1，输入的宽-窗口的宽+1.
   #每行和每列都迭代
   for i in range(Y.shape[0]):
      for j in range(Y.shape[1]):
          if mode == 'max':
              Y[i, j] = X[i: i + p_h, j: j + p_w].max()
          elif mode == 'avg':
              Y[i, j] = X[i: i + p_h, j: j + p_w].mean()

   return Y

#构造输入数组x来验证二维最大池化层的输出
X = torch.tensor([[0, 1, 2], [3, 4, 5], [6, 7, 8]])
print(pool2d(X, (2, 2)))
#实现平均池化层
print(pool2d(X, (2, 2), 'avg'))

"""填充和步幅"""
#同卷积层?样，池化层也可以在输?的?和宽两侧的填充并调整窗?的移动步幅来改变输出形状。
X = torch.arange(16, dtype=torch.float).view((1, 1, 4, 4))
print(X)

#下?使?形状为(3, 3)的池化窗?，默认获得形状为(3, 3)的步幅。
pool2d = nn.MaxPool2d(3)
print(pool2d(X))

#我们可以手动指定步幅和填充
pool2d = nn.MaxPool2d(3, padding=1, stride=2)
print(pool2d(X))

#我们也可以指定非正方形的池化窗口，并分别指定高和宽上的填充和步幅
pool2d = nn.MaxPool2d((2, 4), padding=(1, 2), stride=(2, 3))
print(pool2d(X))

"""多通道"""
#在处理多通道输?数据时，池化层对每个输?通道分别池化，?不是像卷积层那样将各通道的输?按通道相加。
#池化层的输出通道与输入通道相等
X = torch.cat((X, X + 1), dim=1)
print(X)

#池化后，我们发现输出通道数仍然是2
pool2d = nn.MaxPool2d(3, padding=1, stride=2)
print(pool2d(X))

输出：

?