Part 1? 视频学习
1. 《语义分割中的自注意力机制和低秩重重建》
链接：https://www.bilibili.com/video/BV11E411y7Dr
语义分割：相对于图像分类的输出更密集，对于每个像素输出一个label。
视频讲了下面五个部分：
2.?《图像语义分割前沿进展》
链接：https://www.bilibili.com/video/BV1Qz4y197Sj
视频听的模模糊糊的，没太听懂，内容太多了还没来得及完全整理出来，有时间再看一遍。
Part 2? 论文泛读
1. CVPR 2019 《Selective Kernel Networks》
文章内容：
在标准的卷积神经网络(CNNs)中，每一层人工神经元的感受野都被设计成具有相同的大小。已知视觉皮层神经元的感受野大小是由刺激调节的。文章提出了CNN中的一种动态选择机制，允许每个神经元根据多个尺度的输入信息自适应地调整其感受野的大小。
文章提出一种非线性方法来融合多个卷积核提取的不同尺度的特征从而实现自适应地调整感受野的大小。文中引入一种 “Selective Kernel”（SK） 卷积，其结构图如下所示：
多个SK单元被堆叠成一个被称为选择性核网络(SKNets)的深度网络。其中包含三个操作：分裂(Split)、融合(Fuse)和选择(Select)。
分裂(Split)
产生多个不同核尺寸的分支，图中是两个分支，上面是3 x 3卷积，下面是5 x 5卷积，上述两个变换都是由group/depthwise 卷积，ReLU，BN等操作组成。为了提高效率，将5 x 5卷积替换为5 x 5的空洞卷积，即 3 x 3卷积，dilation=2。
融合(Fuse)
文章的目标是实现神经元不同尺寸感受野的自适应调整， 其基本思想是使用门来控制来自携带不同尺度信息的多个分支进入下一层的神经元。为了实现这一目标，门需要整合来自所有分支的信息。
首先将将多分支的结果融合，采用的的方式是将多个分支的信息进行对应位置元素相加。
然后使用简单的全局平均池化层得到全局信息，得到输出s，再通过一个简单的全连接（fc）层创建了一个紧凑的特征Z，使其能够进行精确和自适应的选择特征，同时减少了维度以提高效率。其中使用一个缩减率 r 来控制该全连接层的神经元。
选择(Select)
跨通道的软注意力(全局注意力，应该就是指的全局平均池化操作)被用来自适应地选择不同空间尺度的信息。在channel-wise应用softmax操作。
