神经网络-VggNet

2014年VggNet被推出，获取了ILSVRC2014比赛分类项目的第二名，第一名是GoogleNet，该网络在下节介绍，本节主要介绍VggNet。

VggNet可以称为是一个家族，根据层数的不同包括了A、A-LRN、B、C、D等网络结构，其中D、E也就是常见的VggNet16、VggNet19，网络层从初始的11层增加到了19层，但参数并没有明显的增加，因为参数主要集中在全连接层。以下是VggNet网络家族网络层介绍(增加的网络层，用粗体标注)，参数表示“conv〈receptive field size〉-〈number of channels〉”。

每个网络结构参数，如下：

网络结构

以VggNet16为例，各层网络结构如下：

• 输入图像3*224*224-》使用64个3*3的卷积核做两次卷积-》经过ReLU，输出为64*224*224

• 使用Maxpooling进行池化，池化大小为2*2，输出64*112*112

• 输入64*112*112-》使用128个3*3的卷积核做两次卷积-》经过ReLU，输出为128*112*112

• 使用Maxpooling进行池化，池化大小为2*2，输出128*56*56

• 输入128*56*56-》使用256个3*3的卷积核做三次卷积-》经过ReLU，输出为256*56*56

• 使用Maxpooling进行池化，池化大小为2*2，输出256*28*28

• 输入256*28*28-》使用512个3*3的卷积核进行三次卷积-》经过ReLU，输出512*28*28

• 使用Maxpooling进行池化，池化大小为2*2，输出512*14*14

• 输入512*14*14-》使用512个3*3的卷积核进行三次卷积-》经过ReLU，输出512*14*14

• 使用Maxpooling进行池化，池化大小为2*2，输出512*7*7

• 连接两层1*1*4096全连接层

• 连接一层1*1*1000进行全连接-》经过ReLU

• 通过softmax输出1000个预测结果的概率值

通过上面网络层介绍，可以发现，卷积核从64个，陆续进行翻倍增加，64-》128-》256-》512，专注于通道数增加；池化层采用较小的2*2。整体小卷积核、小池化核使得模型架构更深更宽的同时，计算量的增加放缓。

在网络测试阶段，将训练阶段的三个全连接层替换为三个卷积，测试重用训练时的参数，使得测试得到的全卷积网络因为没有全连接的限制，因而可以接收任意宽或高为的输入。

网络亮点

数据增强

• 对图像进行镜像翻转和random RGB colour shift ，扩大样本数量

• 对数据进行随机的裁剪，将图片裁剪为224*224大小

• 多种尺寸训练：1)分别使用256*256和384*384固定大小的图片进行模型的训练；2）多尺度的模型训练，对图像进行缩放，缩放范围为256~512，可以理解为一种数据的抖动，增加了数据量。

下面是采用不同尺度后，模型top1和top5的效果。

数据预处理

• 对图像每个像素值减去RGB的平均值，得到新的像素值。

• 在某些网络结构中，使用了Local Response Normalisation，发现并没有带来效果的提升，反而增加了内存和计算时间，因此后续网络结构中并未继续使用该处理方法。

参数初始化

网络权重的初始化很重要，因为糟糕的初始化会因为深度网络中的梯度不稳定而导致学习停滞。当网络层较少时，参数值使用随机初始化；当网络层较多时，需要更加合理的参数初始化方法。

VggNet在训练A网络结构时，采用了随机方法，通过训练得到了一组实验参数。在后续的网络结构如D、E网络，利用A网络中的参数，初始化了前4层网络结构和最后三层全连接层，中间的网络层使用随机初始化进行训练。初始化参数满足均值=0，方差=0.01的正态分布，biases初始化0.

不过作者后续发现，可以不使用预训练来确定参数，可以使用Golort&Bengio(2010)，进行初始化。目前有更加多的初始化方法。

多个小卷积核代替大卷积核

用多个小的卷积代替了较大的卷积核，例如，两个3*3的卷积核叠加等价于5*5卷积核的视野，三个3*3的卷积核叠加等价于7*7的卷积核视野。

多个小卷积核叠加为什么会等于大卷积核视野？

假设图像是28*28，卷积核的大小为5*5，s=1，p=0，则输出大小为(28-5+2*0)/1+1 = 24;

同样使用两个3*3的卷积核，s=1，p=0，第一个卷积核作用后，输出(28-3+2*0)/1+1=26;继续进行第二个卷积核，输出大小为(26-3+2*0)/1+1=24，从结果上看，两者处理的结果是一致的。

上面计算过程，可简化为如下图形。3个3*3卷积核替代7*7卷积核，同理。

多个小卷积核代替大卷积核，有什么好处？

• 多个小卷积核，相对于单一的使用一个卷积核。多个卷积核具有更强的非线性映射，可以获得更多的图像特征，从而使得决策函数有更好的识别力。

• 多个小卷积核的总参数，小于单个大卷积核的参数。假设输入通道数和输出通道数分别为input_channel 和output_channel，对于两个3*3的参数量为2*3*3*input_channel *output_channel，一个5*5卷积核的参数量为1*5*5*input_channel *output_channel，两个参数量比较5*5的参数量是多个小卷积核的1.39倍(25/18)。小卷积核替代大卷积核，参数量级的减少是其优势的一部分，更重要的是计算量的减少更加明显。

• 多个小卷积核代替大卷积核，例如3个3*3的卷积核，替代7*7的卷积核。相当于一定程度上进行了正则化，同时通过多个卷积核进行分解，每个卷积核之后加入了ReLU激活函数，增加了非线性表示，使得整体特征提取能力得到了提升。

多个小卷积核代替大卷积核，有什么坏处？

• 在进行反向传播时，中间的卷积层可能会占用更多的内存。

1*1卷积核

1*1卷积核，可以增加decision function的非线性能力，同时不影响卷积核的视野。1*1卷积核，可以起到以下作用。

• 起到降维和升维的作用

• 增加非线性：可以在保持feature map尺度不变的（即不损失分辨率）的前提下大幅增加非线性特性（利用后接的非线性激活函数），把网络做的很deep。

• 跨通道信息交互：1*1的卷积核，实际上是对不同channel的信息，进行了线性组合，实现了通道间的信息交互。

应用

网络结构定义

import torch.nn as nn
import torch


# official pretrain weights,官网直接下载模型权重
model_urls = {
    'vgg11': 'https://download.pytorch.org/models/vgg11-bbd30ac9.pth',
    'vgg13': 'https://download.pytorch.org/models/vgg13-c768596a.pth',
    'vgg16': 'https://download.pytorch.org/models/vgg16-397923af.pth',
    'vgg19': 'https://download.pytorch.org/models/vgg19-dcbb9e9d.pth'
}


# 定义网络
class VGG(nn.module):
    """
    features: 定义网络结构，
    num_classes: 分类数
    init_weights: 权重是否初始化
    """
    def __init__(self, features, num_classes=1000, init_weights=False):
        super(VGG, self).__init__()
        # 特征提取网络层
        self.features = features
        # 分类层
        self.classifier = nn.Sequential(
            nn.Linear(512*7*7, 4096),
            nn.ReLU(True),
            nn.Dropout(p=0.5),
            nn.Linear(4096, 4096),
            nn.ReLU(True),
            nn.Dropout(p=0.5),
            nn.Linear(4096, num_classes)
        )
        if init_weights:
            self._initialize_weights()

        # 前向传播
        def forward(self, x):
            # barch * 3 * 224 * 224
            x = self.features(x)
            x = torch.flatten(x, start_dim=1)
            x = self.classifier(x)
            return x

        # 定义初始化方法
        def _initialize_weights(self):
            # 读取每层网络
            for m in self.modules():
                if isinstance(m, nn.Conv2d):
                    # 用均匀分布进行填充
                    nn.init.xavier_uniform_(m.weight)
                    if m.bias is not None:
                        # 进行数值填充
                        nn.init.constant_(m.bias, 0)
                elif isinstance(m, nn.Linear):
                    nn.init.xavier_uniform_(m.weight)
                    nn.init.constant_(m.bias, 0)


# 将网络配置参数，转变为对应的网络结构
def make_features(cfg:list):
    layers = []
    in_channels = 3
    for v in cfg:
        if v == "M":
            # 网络中池化层，size=2，stride=2
            layers += [nn.MaxPool2d(kernel_size=2, stride=2)]
        else:
            # 卷积层 stride=1， padding=1
            conv2d = nn.Conv2d(in_channels, v, kernel_size=3, padding=1)
            layers += [conv2d, nn.ReLU(True)]
            in_channels = v
    return nn.Sequential(*layers)


# 配置网络参数，64代表卷积核的个数，M代表池化层
cfgs = {
    'vgg11': [64, 'M', 128, 'M', 256, 256, 'M', 512, 512, 'M', 512, 512, 'M'],
    'vgg13': [64, 64, 'M', 128, 128, 'M', 256, 256, 'M', 512, 512, 'M', 512, 512, 'M'],
    'vgg16': [64, 64, 'M', 128, 128, 'M', 256, 256, 256, 'M', 512, 512, 512, 'M', 512, 512, 512, 'M'],
    'vgg19': [64, 64, 'M', 128, 128, 'M', 256, 256, 256, 256, 'M', 512, 512, 512, 512, 'M', 512, 512, 512, 512, 'M'],
}