????????CSPDarknet在Darknet的基础上增加了CSP结构。进一步减少计算量并且增强梯度的表现。主要做法是在输入block之前，将输入分为两个部分，其中一部分通过block进行计算，另一部分直接通过一个shortcut进行concat，当然两个分支都会先使用一个1x1的卷积层将通道数减半，这样能保证concat之后通道数不变。

? ? ? ? YOLOv5的backbone使用了两种CSPDarknet，两种CSPDarknet差别并不大，只有一个残差的区别。

?图2

? ? ? ? 如上图，CSP1_X应用于backbone主干网络部分，输入输出的特征图shape不变；backbone是较深的网络，增加残差结构可以增加层与层之间反向传播的梯度值，避免因为加深而带来的梯度消失，从而可以提取到更细粒度的特征并且不用担心网络退化。

图3

????????CSP2_X主要应用在Neck部分，因为网络没那么深，去掉残差可以减少计算量。

????????最原始的CSPDarknet激活函数是LeakyReLU，后期改为SiLU。SiLU是Sigmoid和LeakyReLU的改进版。SiLU具备无上界有下界、平滑、非单调的特性。SiLU在深层模型上的效果优于 LeakyReLU。可以看做是平滑的ReLU激活函数。

????????SiLU公式：

???????? $gif.latex?%5Cdpi%7B150%7D%20f%28x%29%3Dx*sigmoid%28x%29$

????????CSP块代码位置：dcmyolo/model/backbone/CSPdarknet.py

? ? ? ? CSP块代码实现：

class C3(nn.Module):
    # CSP Bottleneck with 3 convolutions
    def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5):  # ch_in, ch_out, number, shortcut, groups, expansion
        super(C3, self).__init__()
        c_ = int(c2 * e)  # hidden channels
        self.cv1 = Conv(c1, c_, 1, 1)
        self.cv2 = Conv(c1, c_, 1, 1)
        self.cv3 = Conv(2 * c_, c2, 1)  # act=FReLU(c2)
        self.m = nn.Sequential(*[Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)])
        # self.m = nn.Sequential(*[CrossConv(c_, c_, 3, 1, g, 1.0, shortcut) for _ in range(n)])

    def forward(self, x):
        return self.cv3(torch.cat(
            (
                self.m(self.cv1(x)), 
                self.cv2(x)
            )
            , dim=1))

3.SPPF（Spatial Pyramid Pooling - Fast）

? ? ? ? YOLOv4和原始版本的YOLOv5使用了SPP结构，SPP通过不同池化核大小的最大池化进行特征提取，提高网络的感受野。

? ? ? ? 这里我们使用SPPF代替SPP结构，SPPF将三个并联的MaxPool2d改成串联，然后concat，好处是比SPP快很多，SPPF已经在图1中画完整，结构如下：

图4

? ? ? ? 代码位置：dcmyolo/model/backbone/CSPdarknet.py

????????代码实现：

class SPPF(nn.Module):
    # Spatial Pyramid Pooling - Fast (SPPF) layer for YOLOv5 by Glenn Jocher
    def __init__(self, c1, c2, k=5):  # equivalent to SPP(k=(5, 9, 13))
        super().__init__()
        c_ = c1 // 2  # hidden channels
        self.cv1 = Conv(c1, c_, 1, 1)
        self.cv2 = Conv(c_ * 4, c2, 1, 1)
        self.m = nn.MaxPool2d(kernel_size=k, stride=1, padding=k // 2)

    def forward(self, x):
        x = self.cv1(x)
        with warnings.catch_warnings():
            warnings.simplefilter('ignore')  # suppress torch 1.9.0 max_pool2d() warning
            y1 = self.m(x)
            y2 = self.m(y1)
            return self.cv2(torch.cat((x, y1, y2, self.m(y2)), 1))

4.Neck（FPN+PAN）

? ? ? ? YOLOv5的Neck是一个FPN+PAN结构。

图5

????????FPN将不同尺度特征图上的特征进行融合，在融合之后得到的特征图上再进行预测。实现能在增加极小的计算量的情况下，处理好物体检测中的多尺度变化问题。????????

? ? ? ? PAN结构是在FPN的基础上引入了 Bottom-up path augmentation 结构，不仅会对特征进行上采样实现特征融合，还会对特征再次进行下采样实现特征融合。

????????FPN主要是通过融合高低层特征提升目标检测的效果，尤其可以提高小尺寸目标的检测效果。Bottom-up path augmentation结构可以充分利用网络浅特征进行分割，网络浅层特征信息对于目标检测非常重要，因为目标检测是像素级别的分类浅层特征多是边缘形状等特征。PAN?在 FPN 的基础上加了一个自底向上方向的增强，使得顶层 feature map 也可以享受到底层带来的丰富的位置信息，从而提升了大物体的检测效果。

????????FPN层自顶向下传达强语义特征，而PAN则自底向上传达强定位特征，两两联手，从不同的主干层对不同的检测层进行参数聚合,这样的操作确实很皮。

? ? ? ? Neck还有一个改进改进的是在每次concat之后增加了没有残差的CSP块：

5.Head

? ? ? ? Head没有太大变化，还是比较传统的YoloHead（用YOLOvX的话是耦合头：Couped Head）。

????????我们使用的是英雄联盟的数据集，有3个类别，在图1中三个Head从下往上输出分别为(24,20,20)，(24,40,40)，(24,80,80)。

????????其中20、40、80为固定值（input_size=640x640的情况下），用于不同尺度的anchor编解码。

????????24 = (4+1+3)*3，前4个参数用于判断每一个特征点的回归参数，分别对应着先验框中心坐标在xy方向的偏移和预测框高宽；第5个参数预测否包含物体；最后3个参数预测每个类别的概率；*3是因为9个预设anchors分3组，每组有3个先验框。

? ? ? ? 如果使用VOC数据集，有20个分类，Head输出为：(75,20,20)，(75,40,40)，(75,80,80)。

????????如果使用COCO数据集，有80个分类，Head输出为：(255,20,20)，(255,40,40)，(255,80,80)。

????????Neck+Head代码如下：

class YoloBody(nn.Module):
    def __init__(self, anchors_mask, num_classes, phi, anchors=None, input_shape=None, backbone_model_dir='', need_detect_box=False):
        super(YoloBody, self).__init__()
        depth_dict          = {'n': 0.33, 's': 0.33, 'm': 0.67, 'l': 1.00, 'x': 1.33}
        width_dict          = {'n': 0.25, 's': 0.50, 'm': 0.75, 'l': 1.00, 'x': 1.25}
        dep_mul, wid_mul    = depth_dict[phi], width_dict[phi]

        base_channels       = int(wid_mul * 64)  # 64
        base_depth          = max(round(dep_mul * 3), 1)  # 3
        #-----------------------------------------------#
        #   输入图片是3, 640, 640
        #   初始的基本通道是64
        #-----------------------------------------------#
        self.backbone       = self._get_backbone(base_channels, base_depth, phi, backbone_model_dir)

        self.upsample   = nn.Upsample(scale_factor=2, mode="nearest")

        self.conv_for_feat3         = Conv(base_channels * 16, base_channels * 8, 1, 1)
        self.conv3_for_upsample1    = C3(base_channels * 16, base_channels * 8, base_depth, shortcut=False)

        self.conv_for_feat2         = Conv(base_channels * 8, base_channels * 4, 1, 1)
        self.conv3_for_upsample2    = C3(base_channels * 8, base_channels * 4, base_depth, shortcut=False)

        self.down_sample1           = Conv(base_channels * 4, base_channels * 4, 3, 2)
        self.conv3_for_downsample1  = C3(base_channels * 8, base_channels * 8, base_depth, shortcut=False)

        self.down_sample2           = Conv(base_channels * 8, base_channels * 8, 3, 2)
        self.conv3_for_downsample2  = C3(base_channels * 16, base_channels * 16, base_depth, shortcut=False)

        # 256, 80, 80 => 3 * (5 + num_classes), 80, 80
        self.yolo_head_P3 = nn.Conv2d(base_channels * 4, len(anchors_mask[2]) * (5 + num_classes), 1)
        # 512, 40, 40  => 3 * (5 + num_classes), 40, 40
        self.yolo_head_P4 = nn.Conv2d(base_channels * 8, len(anchors_mask[1]) * (5 + num_classes), 1)
        # 1024, 20, 20,  => 3 * (5 + num_classes), 20, 20
        self.yolo_head_P5 = nn.Conv2d(base_channels * 16, len(anchors_mask[0]) * (5 + num_classes), 1)
        self.need_detect_box = need_detect_box
        if need_detect_box:
            self.detectBox = DetectBox(anchors, num_classes, input_shape)

    def _get_backbone(self, channels, depth, phi, backbone_model_dir):
        """
        初始化backbone
        Returns
        -------

        """
        backbone_model_path = os.path.join(backbone_model_dir, 'cspdarknet_'+phi+'_backbone.pth')
        return CSPDarknet(channels, depth, backbone_model_path)

    def forward(self, x):
        #  backbone
        feat1, feat2, feat3 = self.backbone(x)

        # 1024, 20, 20 -> 512, 20, 20
        P5          = self.conv_for_feat3(feat3)
        # 512, 20, 20 -> 512, 40, 40
        P5_upsample = self.upsample(P5)
        # 512, 40, 40 -> 1024, 40, 40
        P4          = torch.cat([P5_upsample, feat2], 1)
        # 1024, 40, 40 -> 512, 40, 40
        P4          = self.conv3_for_upsample1(P4)

        # 512, 40, 40 -> 256, 40, 40
        P4          = self.conv_for_feat2(P4)
        # 256, 40, 40 -> 256, 80, 80
        P4_upsample = self.upsample(P4)
        # 256, 80, 80 concat 256, 80, 80 -> 512, 80, 80
        P3          = torch.cat([P4_upsample, feat1], 1)
        # 512, 80, 80 -> 256, 80, 80
        P3          = self.conv3_for_upsample2(P3)
        
        # 256, 80, 80 -> 256, 40, 40
        P3_downsample = self.down_sample1(P3)
        # 256, 40, 40 concat 256, 40, 40 -> 512, 40, 40
        P4 = torch.cat([P3_downsample, P4], 1)
        # 512, 40, 40 -> 512, 40, 40
        P4 = self.conv3_for_downsample1(P4)

        # 512, 40, 40 -> 512, 20, 20
        P4_downsample = self.down_sample2(P4)
        # 512, 20, 20 cat 512, 20, 20 -> 1024, 20, 20
        P5 = torch.cat([P4_downsample, P5], 1)
        # 1024, 20, 20 -> 1024, 20, 20
        P5 = self.conv3_for_downsample2(P5)

        #---------------------------------------------------#
        #   第三个特征层
        #   y3=(batch_size,24,80,80)
        #---------------------------------------------------#
        out2 = self.yolo_head_P3(P3)
        #---------------------------------------------------#
        #   第二个特征层
        #   y2=(batch_size,24,40,40)
        #---------------------------------------------------#
        out1 = self.yolo_head_P4(P4)
        #---------------------------------------------------#
        #   第一个特征层
        #   y1=(batch_size,24,20,20)
        #---------------------------------------------------#
        out0 = self.yolo_head_P5(P5)

        if self.need_detect_box:
            return self.detectBox([out0, out1, out2])

        return out0, out1, out2

三、anchor编解码

????????YOLOv5的anchor有9个，根据数据集会有不同，我们以COCO的anchor为例：

10,13, 16,30, 33,23,  30,61, 62,45, 59,119,  116,90, 156,198, 373,326

????????anchor分成3组，每组3对，每对表示anchor的宽高。3组分别对应模型的输出，分别是：

????????(1,24,80,80)对应第一组10,13, 16,30, 33,23

????????(1,24,40,40)对应第二组30,61, 62,45, 59,119

?????????(1,24,20,20)对应第三组116,90, 156,198, 373,326

? ? ? ? 可以看到输出的尺度越小，对应的anchor越大，因为输出可以看做将图片平均分成了80x80、40x40、20x20，尺度划分的越细，越有利于预测小物体，划分的越组越有利于预测大物体，所以小尺度对应大anchor是有道理的。

? ? ? ? 下面我们以20x20的尺度为例，进行介绍。图像被划分成20x20，意味着stride=640/20=32。

1.anchor编码

? ? ? ? 编码的功能是在训练阶段，将gt的左上右下坐标表示方式与anchor结合转换成与模型输出一样的格式，方便对预测值进行比较计算损失。

? ? ? ? 步骤如下：

? ? ? ? （1）将gt的坐标除以图片的宽高进行归一化；将box左上右下的表示方式转换成xywh：

#---------------------------------------------------#
#   对真实框进行归一化，调整到0-1之间    
#---------------------------------------------------#
box[:, [0, 2]] = box[:, [0, 2]] / self.input_shape[1]
box[:, [1, 3]] = box[:, [1, 3]] / self.input_shape[0]
#---------------------------------------------------#
#   序号为0、1的部分，为真实框的中心
#   序号为2、3的部分，为真实框的宽高
#   序号为4的部分，为真实框的种类
#---------------------------------------------------#
box[:, 2:4] = box[:, 2:4] - box[:, 0:2]
box[:, 0:2] = box[:, 0:2] + box[:, 2:4] / 2

? ? ? ? （2）多正样本匹配，判断gt落在哪个尺度的格中，就由哪个格负责预测，这里每个gt选择三个框，如下图：

? ? ? ? 如果gt的中点落在a，除了选择a所在的格还选择1、2，三个格同时参与预测。同理b+1+3、c+3+4、d+2+4。

    def get_near_points(self, x, y, i, j):
        sub_x = x - i
        sub_y = y - j
        if sub_x > 0.5 and sub_y > 0.5:
            return [[0, 0], [1, 0], [0, 1]]
        elif sub_x < 0.5 and sub_y > 0.5:
            return [[0, 0], [-1, 0], [0, 1]]
        elif sub_x < 0.5 and sub_y < 0.5:
            return [[0, 0], [-1, 0], [0, -1]]
        else:
            return [[0, 0], [1, 0], [0, -1]]

? ? ? ? 找到中心后，就要计算中心的距离的偏移，归一化的中心点乘以20即可。

#-------------------------------------------------------#
#   计算出正样本在特征层上的中心点
#-------------------------------------------------------#
batch_target[:, [0,2]]  = targets[:, [0,2]] * in_w
batch_target[:, [1,3]]  = targets[:, [1,3]] * in_h

? ? ? ? （3）中点找到之后，接下来计算宽高，这就用到anchor，这里要算的事gt宽高相对于anchor的比值。

????????anchor除以stride得到anchor在当前尺度的表示。

? ? ? ? 计算wh与anchor的比值，去掉比值超过4的，至于为什么是4，取决于解码中的公式，下面我们会提到。

#   wh                          : num_true_box, 2
#   np.expand_dims(wh, 1)       : num_true_box, 1, 2
#   anchors                     : 9, 2
#   np.expand_dims(anchors, 0)  : 1, 9, 2
#   
#   ratios_of_gt_anchors代表每一个真实框和每一个先验框的宽高的比值
#   ratios_of_gt_anchors    : num_true_box, 9, 2
#   ratios_of_anchors_gt代表每一个先验框和每一个真实框的宽高的比值
#   ratios_of_anchors_gt    : num_true_box, 9, 2
#
#   ratios                  : num_true_box, 9, 4
#   max_ratios代表每一个真实框和每一个先验框的宽高的比值的最大值
#   max_ratios              : num_true_box, 9
#-------------------------------------------------------#
ratios_of_gt_anchors = np.expand_dims(batch_target[:, 2:4], 1) / np.expand_dims(anchors, 0)
ratios_of_anchors_gt = np.expand_dims(anchors, 0) / np.expand_dims(batch_target[:, 2:4], 1)
ratios               = np.concatenate([ratios_of_gt_anchors, ratios_of_anchors_gt], axis = -1)
max_ratios           = np.max(ratios, axis = -1)

for t, ratio in enumerate(max_ratios):
# -------------------------------------------------------#
#   和gt相比 去掉宽高相差太大的anchors
#   这里阈值=4
#   因为tw = (sigmoid(gtw) * 2) ** 2  th = (sigmoid(gth) * 2) ** 2
#   tw和th的取值是(0, 4)
# -------------------------------------------------------#
over_threshold = ratio < self.threshold
over_threshold[np.argmin(ratio)] = True
for k, mask in enumerate(self.anchors_mask[l]):
    if not over_threshold[mask]:
	continue
    #----------------------------------------#
    #   获得真实框属于哪个网格点
    #   x  1.25     => 1
    #   y  3.75     => 3
    #----------------------------------------#
    i = int(np.floor(batch_target[t, 0]))
    j = int(np.floor(batch_target[t, 1]))
    
    offsets = self.get_near_points(batch_target[t, 0], batch_target[t, 1], i, j)
    for offset in offsets:
	local_i = i + offset[0]
	local_j = j + offset[1]

	if local_i >= in_w or local_i < 0 or local_j >= in_h or local_j < 0:
	    continue

	if box_best_ratio[l][k, local_j, local_i] != 0:
	    if box_best_ratio[l][k, local_j, local_i] > ratio[mask]:
		y_true[l][k, local_j, local_i, :] = 0
	    else:
		continue
	    
	#----------------------------------------#
	#   取出真实框的种类
	#----------------------------------------#
	c = int(batch_target[t, 4])

	#----------------------------------------#
	#   tx、ty代表中心调整参数的真实值
	#----------------------------------------#
	y_true[l][k, local_j, local_i, 0] = batch_target[t, 0]
	y_true[l][k, local_j, local_i, 1] = batch_target[t, 1]
	y_true[l][k, local_j, local_i, 2] = batch_target[t, 2]
	y_true[l][k, local_j, local_i, 3] = batch_target[t, 3]
	y_true[l][k, local_j, local_i, 4] = 1
	y_true[l][k, local_j, local_i, c + 5] = 1
	#----------------------------------------#
	#   获得当前先验框最好的比例
	#----------------------------------------#
	box_best_ratio[l][k, local_j, local_i] = ratio[mask]

? ? ? ? 经过上面三步，gt的原始坐标就转换成了预测坐标信息，shape为（1,3,20,20,4）接下来看解码。

2.anchor解码

? ? ? ? 解码针对模型输出进行操作，将模型的输出变成xywh形式

????????中点偏移的范围由原来的(0, 1)调整到了( ?0.5, 1.5)，公式如下：

$gif.latex?%5Cdpi%7B150%7D%20b_%7Bx%7D%3D2%5Csigma%20%28t_%7Bx%7D%29-0.5+c_%7Bx%7D$

$gif.latex?%5Cdpi%7B150%7D%20b_%7By%7D%3D2%5Csigma%20%28t_%7By%7D%29-0.5+c_%7By%7D$

????????目标宽高的计算公式调整为，其中 $gif.latex?p_%7Bw%7D$ 范围（0,1）、 $gif.latex?%5Cdpi%7B100%7D%20%5Csigma%28t_%7Bw%7D%29$ 和 $gif.latex?%5Cdpi%7B100%7D%20%5Csigma%28t_%7Bh%7D%29$ 范围（0,1）所以 $gif.latex?b_w$ 和 $gif.latex?b_h$ 范围（0,4）：

$gif.latex?%5Cdpi%7B150%7D%20b_w%3Dp_w%282%5Csigma%20%28t_w%29%29%5E2$

$gif.latex?%5Cdpi%7B150%7D%20b_h%3Dp_h%282%5Csigma%20%28t_h%29%29%5E2$

?????????

参数解释：

???????? $gif.latex?t_x%2Ct_y%2Ct_w%2Ct_h$ ：预测的坐标信息

???????? $gif.latex?b_x%2Cx_y%2Cb_w%2Cb_h$ : 最终预测坐标信息

???????? $gif.latex?%5Csigma$ ：表示sigmoid，将坐标归一化到0~1

???????? $gif.latex?c_x%2Cc_y$ : 中心点所在的网格的左上角坐标

???????? $gif.latex?p_w%2Cp_y$ : anchor框的大小

? ? ? ? 经过解码的输出shape为（1,3,20,20,4）,可以和上面的编码结果计算损失了。

四、损失函数

????????YoloV5的损失函数分为三个部分：

????????Location loss：定位损失，采用GIoU loss（CIoU的具体介绍可以参考https://blog.csdn.net/xian0710830114/article/details/128177705），只计算正样本的定位损失，利用前4个值计算损失。

????????Objectness loss：obj置信度损失，采用BCE loss，计算的是否有物体的obj损失。利用第5个值计算损失。

????????Classes loss：分类损失，采用BCE loss，只计算正样本的分类损失。利用第5个值后面的所有值计算损失。

? ? ? ? 总的损失函数是一个Multi-task Loss：

$gif.latex?%5Cdpi%7B150%7D%20L%3D%5Clambda%20_%7B1%7DL_%7Bloc%7D+%5Clambda%20_%7B2%7DL_%7Bobj%7D+%5Clambda%20_%7B3%7DL_%7Bcls%7D$

? ? ? ? ? 三段损失的代码实现：

    def box_giou(self, b1, b2):
        """
        输入为：
        ----------
        b1: tensor, shape=(batch, feat_w, feat_h, anchor_num, 4), xywh
        b2: tensor, shape=(batch, feat_w, feat_h, anchor_num, 4), xywh

        返回为：
        -------
        giou: tensor, shape=(batch, feat_w, feat_h, anchor_num, 1)
        """
        # ----------------------------------------------------#
        #   求出预测框左上角右下角
        # ----------------------------------------------------#
        print("max:", torch.max(b1), torch.max(b2))
        b1_xy = b1[..., :2]
        b1_wh = b1[..., 2:4]
        b1_wh_half = b1_wh / 2.
        b1_mins = b1_xy - b1_wh_half
        b1_maxes = b1_xy + b1_wh_half
        # ----------------------------------------------------#
        #   求出真实框左上角右下角
        # ----------------------------------------------------#
        b2_xy = b2[..., :2]
        b2_wh = b2[..., 2:4]
        b2_wh_half = b2_wh / 2.
        b2_mins = b2_xy - b2_wh_half
        b2_maxes = b2_xy + b2_wh_half

        # ----------------------------------------------------#
        #   求真实框和预测框所有的iou
        # ----------------------------------------------------#
        intersect_mins = torch.max(b1_mins, b2_mins)
        intersect_maxes = torch.min(b1_maxes, b2_maxes)
        intersect_wh = torch.max(intersect_maxes - intersect_mins, torch.zeros_like(intersect_maxes))
        intersect_area = intersect_wh[..., 0] * intersect_wh[..., 1]
        b1_area = b1_wh[..., 0] * b1_wh[..., 1]
        b2_area = b2_wh[..., 0] * b2_wh[..., 1]
        union_area = b1_area + b2_area - intersect_area
        iou = intersect_area / union_area

        # ----------------------------------------------------#
        #   找到包裹两个框的最小框的左上角和右下角
        # ----------------------------------------------------#
        enclose_mins = torch.min(b1_mins, b2_mins)
        enclose_maxes = torch.max(b1_maxes, b2_maxes)
        enclose_wh = torch.max(enclose_maxes - enclose_mins, torch.zeros_like(intersect_maxes))
        # ----------------------------------------------------#
        #   计算对角线距离
        # ----------------------------------------------------#
        enclose_area = enclose_wh[..., 0] * enclose_wh[..., 1]
        giou = iou - (enclose_area - union_area) / enclose_area

        return giou    

    def BCELoss(self, pred, target):
        epsilon = 1e-7
        pred = self.clip_by_tensor(pred, epsilon, 1.0 - epsilon)
        output = - target * torch.log(pred) - (1.0 - target) * torch.log(1.0 - pred)
        return output

    def MSELoss(self, pred, target):
        return torch.pow(pred - target, 2)