YOLOAir库使用（六）

YOLOAir：面向小白的目标检测库，更快更方便更完整的YOLO库

模型多样化：基于不同网络模块构建不同检测网络模型。

模块组件化：帮助用户自定义快速组合Backbone、Neck、Head，使得网络模型多样化，助力科研改进检测算法、模型改进，网络排列组合，构建强大的网络模型。

统一模型代码框架、统一应用方式、统一调参、统一改进、易于模块组合、构建更强大的网络模型：内置YOLOv5、YOLOv7、YOLOX、YOLOR、Transformer、Scaled_YOLOv4、YOLOv3、YOLOv4、YOLO-Facev2、TPH-YOLO、YOLOv5Lite、SPD-YOLO、SlimNeck-YOLO、PicoDet等模型网络结构

基于 YOLOv5 代码框架，并同步适配稳定的YOLOv5_v6.1更新, 同步v6.1部署生态。使用这个项目之前, 您可以先了解YOLOv5库。

YOLOv5仓库：https://github.com/ultralytics/yolov5

YOLOAir项目地址🌟: https://github.com/iscyy/yoloair

YOLOAir部分改进说明教程🌟: https://github.com/iscyy/yoloair/wiki/Improved-tutorial-presentation

YOLOAir CSDN地址：https://blog.csdn.net/qq_38668236

YOLOAir库使用说明

1. 下载源码

$ git clone https://github.com/iscyy/yoloair.git

或者打开github链接，下载项目源码，点击Code选择Download ZIP

2. 配置环境

首先电脑安装Anaconda，本文YOLOAir环境安装在conda虚拟环境里

2.1 创建一个python3.8的conda环境yoloair

conda create -n yoloair python=3.8

2.2 安装Pytorch和Torchvision环境

安装Pytorch有种方式，一种是官网链接[安装]https://pytorch.org/()，另外一中是下载whl包到本地再安装

Pytorch whl包下载地址：https://download.pytorch.org/whl/torch/

TorchVision包下载地址：https://download.pytorch.org/whl/torchvision/

本文Pytorch安装的版本为1.8.0，torchvision对应的版本为0.9.0

注意：cp对应Python包版本，linux对应lLinux版本，win对应Windows版本

当whl文件下载到本地后，进入包下载命令，使用pip install 包名来安装：

pip install torch-1.8.0+cu111-cp38-cp38-win_amd64.whl
pip install torchvision-0.9.0+cu111-cp38-cp38-win_amd64.whl

2.3 安装其他包依赖

YOLOAir项目依赖包具体包含如下：其中Base模块是基本项目依赖包，Logging和Plotting是模型训练时用到的日志和画图包，Export是用于模型转换时用到的（如pt转ONNX、TRT等），thop包是用来计算参数量的

进入到下载的YOLOAir项目目录，使用以下命令安装项目包依赖

pip install -r requirements.txt  # 安装依赖包

如果嫌安装速度太慢，可以在此网站（https://pypi.org/）找包下载到本地再安装

2.4 开箱训练

train.py里面可以设置各种参数，具体参数解释详见后续实战更新

python train.py --data coco128.yaml --cfg configs/yolov5/yolov5s.yaml 

2.5 模型推理

detect.py在各种数据源上运行推理, 并将检测结果保存到runs/detect目录

 python detect.py --source 0  # 网络摄像头
                          img.jpg  # 图像
                          vid.mp4  # 视频
                          path/  # 文件夹
                          path/*.jpg  # glob

2.6 集成融合

如果使用不同模型来推理数据集，则可以使用 wbf.py文件通过加权框融合来集成结果，只需要在wbf.py文件中设置img路径和txt路径

$ python wbf.py

开箱使用YOLOAir

1. 模块选择

本文选取选择性卷积核网络SKAttention（SKAttention:Selective Kernel Networks），整体结构如下图所示：

• CVPR2019的一篇文章，中间层沿用了SENet的思想
• 在传统的CNN中每一个卷积层都是用相同大小的卷积核，限制了模型的表达能力，像Inception这种宽度模型结构也验证了使用多个不同的卷积核进行学习确实可以提升模型的表达能力
• SKAttention借鉴了SENet的思想，通过动态计算每个卷积核得到通道的权重，动态的将各个卷积核的结果进行融合
• 同时本文提出的模型也是lightweight，因为对不同卷积核提取的特征进行通道注意力的时候是参数共享的（也就是在做注意力之前，首先将特征进行了融合，因此不同卷积核的结果共享一个SE模块的参数）
• 模型分为三个部分：Split、Fuse和Select
• Split就是一个multi-branch的操作，用不同的卷积核进行卷积得到不同的特征；Fuse部分就是用SENet的结构获取通道注意力的矩阵(N个卷积核就可以得到N个注意力矩阵，这步操作对所有的特征参数共享)，这样就可以得到不同kernel经过SENet之后的特征；Select操作就是将得到的这几个特征进行相加

import numpy as np
import torch
from torch import nn
from torch.nn import init
from collections import OrderedDict


# 参考论文：https://arxiv.org/pdf/1903.06586.pdf
class SKAttention(nn.Module):

    def __init__(self, channel=512, out_channel=1024, kernels=[1,3,5,7], reduction=16, group=1, L=32):
        super().__init__()
        self.d=max(L,channel//reduction)
        self.convs=nn.ModuleList([])
        for k in kernels:
            self.convs.append(
                nn.Sequential(OrderedDict([
                    ('conv',nn.Conv2d(channel,channel,kernel_size=k,padding=k//2,groups=group)),
                    ('bn',nn.BatchNorm2d(channel)),
                    ('relu',nn.ReLU())
                ]))
            )
        self.fc=nn.Linear(channel,self.d)
        self.fcs=nn.ModuleList([])
        for i in range(len(kernels)):
            self.fcs.append(nn.Linear(self.d,channel))
        self.softmax=nn.Softmax(dim=0)

    def forward(self, x):
        bs, c, _, _ = x.size()
        conv_outs=[]
        ### split
        for conv in self.convs:
            conv_outs.append(conv(x))
        feats=torch.stack(conv_outs, 0)#k,bs,channel,h,w

        ### fuse
        U=sum(conv_outs) #bs,c,h,w

        ### reduction channel
        S=U.mean(-1).mean(-1) #bs,c
        Z=self.fc(S) #bs,d

        ### calculate attention weight
        weights=[]
        for fc in self.fcs:
            weight=fc(Z)
            weights.append(weight.view(bs, c, 1, 1)) #bs,channel
        attention_weughts=torch.stack(weights, 0)#k,bs,channel,1,1
        attention_weughts=self.softmax(attention_weughts)#k,bs,channel,1,1

        ### fuse
        V=(attention_weughts*feats).sum(0)
        return V


if __name__ == '__main__':
    input=torch.randn(50, 512, 7, 7)
    se = SKAttention(channel=512, reduction=8)
    output=se(input)
    print(output.shape)

2.模型配置

# parameters
nc: 3  # number of classes
depth_multiple: 0.33  # model depth multiple
width_multiple: 0.50  # layer channel multiple

# anchors
anchors:
  #- [5,6, 7,9, 12,10]      # P2/4
  # - [10,13, 16,30, 33,23]  # P3/8
  # - [30,61, 62,45, 59,119]  # P4/16
  # - [116,90, 156,198, 373,326]  # P5/32
  - [11,10, 17,16, 25,24]  # P3/8
  - [38,37, 46,72, 88,67]  # P4/16
  - [75,129, 180,145, 283,348]  # P5/32

# YOLOv5 backbone
backbone:
  # [from, number, module, args]
  [ [-1, 1, Conv, [64, 6, 2, 2]],  # 0-P1/2
    [-1, 1, Conv, [128, 3, 2]],  # 1-P2/4
    [-1, 3, C3, [128]],
    [-1, 1, Conv, [256, 3, 2]],  # 3-P3/8
    [-1, 6, C3, [256]],
    [-1, 1, Conv, [512, 3, 2]],  # 5-P4/16
    [-1, 9, C3, [512]],
    [-1, 1, Conv, [1024, 3, 2]],  # 7-P5/32
    [-1, 3, C3, [1024]],
    [-1, 1, SPPF, [1024, 5]],  # 9
  ]

# YOLOv5 v6.0 head
head:
  [[-1, 1, Conv, [512, 1, 1]], 
   [-1, 1, nn.Upsample, [None, 2, 'nearest']],
   [[-1, 6], 1, Concat, [1]],  # cat backbone P4
   [-1, 3, C3, [512, False]],  

   [-1, 1, Conv, [256, 1, 1]],
   [-1, 1, nn.Upsample, [None, 2, 'nearest']],
   [[-1, 4], 1, Concat, [1]],  # cat backbone P3
   [-1, 3, C3, [256, False]],  # 20 (P3/8-small)

   [-1, 1, Conv, [256, 3, 2]], 
   [[-1, 14], 1, Concat, [1]],  # cat head P4
   [-1, 3, C3, [512, False]],  # 23 (P4/16-medium)       [256, 256, 1, False]  
   # [-1, 3, CBAM, [512]],   #26

   [-1, 1, Conv, [512, 3, 2]],  # 24                      [256, 256, 3, 2] 
   [[-1, 10], 1, Concat, [1]],  # cat head P5
   [-1, 3, C3, [1024, False]],  # 26 (P5/32-large)       [512, 512, 1, False]
   [-1, 1, SKAttention, [1024]],

   [[17, 20, 24], 1, Detect, [nc, anchors]],  # Detect(P3, P4, P5)
  ]

• nc：检测的类别数
• depth_multiple：控制每层代码块的个数
• width_multiple：控制每层特征图的深度
• 参数量：YOLOv5s_SKAttention summary: 295 layers, 29137960 parameters, 29137960 gradients, 33.7 GFLOPs

3.模块配置

在yolo.py中加载模块，配置相关参数（先在Common.py中导入该模块）

elif m in [SKAttention]:
	c1, c2 = ch[f], args[0]
    if c2 != no:  # if not output
    	c2 = make_divisible(c2 * gw, 8)
        args = [c1, *args[1:]]

4.开箱训练

笔者对一个三类别目标检测任务进行训练，得到最终的结果图如下：

训练超参数：hyp.yaml

loss_category: CIoU
mode: yolo
use_aux: false
weights: weights/yolov5s.pt
cfg: configs/yolov5/attention/yolov5s_SKAttention.yaml
data: data/fire_smoke.yaml
hyp: data/hyps/hyp.VOC.yaml
epochs: 300
batch_size: 64
imgsz: 640
rect: false
resume: false
nosave: false
noval: false
noautoanchor: false
noplots: false
evolve: null
bucket: ''
cache: null
image_weights: false
device: ''
multi_scale: false
single_cls: false
optimizer: SGD
sync_bn: false
workers: 8
project: runs/train
name: exp
exist_ok: false
quad: false
cos_lr: false
label_smoothing: 0.0
patience: 100
freeze:
- 0
save_period: -1
local_rank: -1
entity: null
upload_dataset: false
bbox_interval: -1
artifact_alias: latest
swin_float: false
save_dir: runs/train/exp3

• 所有实验默认初始化参数为yolov5s，模型为yolov5s权重加载
• base_size=64，hyp=hyp.VOC.yaml，epoch=300，IOU=CIOU，Imgsz=640
• 相比于普通的YOLOv5模型，添加了SKAttention模块的模型在训练稳定性上更胜一筹，训练和验证loss下降比较快且平稳，整体效果有明显提升；
• 模型在召回率上由明显波动，这方面弱于SEAttention。且模型的运算量达到 33.7 GFLOPs，也是相对比较大的
• 模块添加建议：在模型预测层前添加一个SKAttention模块（尽量放在Neck中）

总结

开箱即用YOLOAir库，使用或自定义模块遵循以下几个部分：

• 模块选择
• 模型配置
• 模块配置
• 开箱训练

彩蛋

本文对构建YOLOAir库环境进行详细阐述，笔者以后会定期分享关于项目的其他模块和相关技术，笔者也建立了一个关于目标检测的交流群：781334731，欢迎大家踊跃加入，一起学习鸭！

笔者也持续更新一个微信公众号：Nuist计算机视觉与模式识别，大家帮忙点个关注，后台回复YOLOAir（六）获取本文PDF。

炼丹

笔者最近沉迷于炼丹，在网上发现两个宝藏炼丹平台，AutoDL和恒源智享云，这两个平台新人注册和学生认证都有福利，而且租用显卡支持按小时/天/月收费，大家感兴趣可以看看哦。目前AutoDL的TITAN Xp显卡学生认证后低至0.52元/.小时，RTX GeForce 2080Ti显卡学生认证后低至0.88元/小时，新用户注册后可直接领取10元代金券。如果感兴趣的话，可以通过以下链接注册使用。

AutoDL：https://www.autodl.com/register?code=79aaeca7-b378-4b9d-90c3-99b2a8864596

恒源智享云：https://gpushare.com/auth/register?user=15*****3693&fromId=3e7200b12c2a&source=link