YOLOvi（i=1,2,3,4）系列

YOLOv4论文链接：https://arxiv.org/pdf/2004.10934.pdf

YOLOv4源码链接：https://github.com/AlexeyAB/darknet

YOLO 系列算法是目标检测 one-stage 类的代表算法，本文将从问题背景，创新点等方面比较，了解它们的的发展历程。

一、任务描述

目标检测是为了解决图像里的物体是什么，在哪里的问题。输入一幅图像，输出的是图像里每个物体的类别和位置，其中位置用一个包含物体的框表示。

需要注意目标，同时也是论文中常说的感兴趣的物体，指关心的类别（行人检测只检测人，交通检测只关心交通工具等），或者数据集包含的类别，并不是图像里所有的物体都是目标，比如建筑，草坪也是物体，但他们常常是背景。

从计算机视觉的角度看，目标检测是分类+定位，从机器学习的角度看，目标检测是分类+回归。

二．YOLOv4介绍

论文链接：https://arxiv.org/pdf/2004.10934.pdf

源码链接：https://github.com/AlexeyAB/darknet

有大量的特征被认为可以提高卷积神经网络（CNN）的精度。需要在大型数据集上对这些特征的组合进行实际测试，并对结果进行理论验证。某些功能只在某些模型上运行，某些问题只在某些模型上运行，或只在小规模数据集上运行；而某些功能（如批处理规范化和残差连接）适用于大多数模型、任务和数据集。

假设这些通用特征包括加权残差连接（WRC）、跨阶段部分连接（CSP）、跨小批量规范化（CmBN）、自对抗训练（SAT）和Mish激活。

新功能：WRC、CSP、CmBN、SAT、误激活、马赛克数据增强、CmBN、下降块正则化和CIoU损失，并将其中一些功能结合起来，达到以下效果：43.5%AP（65.7%AP50）的MS COCO数据集，在Tesla V100上以65 FPS的实时速度。

贡献总结如下：

1. 开发了一个高效、强大的目标检测模型。它使得每个人都可以使用1080Ti或2080Ti的GPU来训练一个超快速和精确的目标探测器。

2. 在探测器培训期间，验证了最先进的免费包和特殊包目标检测方法的影响。

3. 修改了最新的方法，使之更有效，更适合于单一GPU训练，包括CBN[89]、PAN[49]、SAM[85]等。

总之，通用的目标探测由几个部分组成：

YOLOv4主要模块:

为使得所涉及的检测器更适合于单GPU,作者还进行了其他几项额外设计与改进：

引入一种新的数据增广方法：Mosaic与自对抗训练；
通过GA算法选择最优超参数；
对现有方法进行改进以更适合高效训练和推理：改进SAM、改进PAN，CmBN。

作者在现有实时网络的基础上提出了两种观点：

对于GPU而言，在组卷积中采用小数量的groups（1-8），比如CSPResNeXt50/CSPDarknet53;
对于VPU而言，采用组卷积而不采用SE模块。

网路结构选择

网络结构选择是为了在输入分辨率、网络层数、参数量、输出滤波器数之间寻求折中。作者研究表明：CSPResNeXt50在分类方面优于CSPDarkNet53，而在检测方面反而表现要差。

网络主要结构确定了后，下一个目标是选择额外的模块以提升感受野、更好的特征汇聚模块（如FPN、PAN、ASFF、BiFPN）。对于分类而言最好的模型可能并不适合于检测，相反，检测模型需要具有以下特性：

更高的输入分辨率，为了更好的检测小目标；

更多的层，为了具有更大的感受野；

更多的参数，更大的模型可以同时检测不同大小的目标。

总之，选择具有更大感受野、更大参数的模型作为backbone。给出了不同backbone的上述信息对比。从中可以看到：CSPResNeXt50仅仅包含16个卷积层，其感受野为425x425，包含20.6M参数；而CSPDarkNet53包含29个卷积层，725x725的感受野，27.6M参数。这从理论与实验角度表明：CSPDarkNet53更适合作为检测模型的Backbone。

三、设计思想

目标检测架构分为两种，一种是two-stage，一种是one-stage，区别就在于 two-stage 有region proposal 过程，类似于一种海选过程，网络会根据候选区域生成位置和类别，而 one-stage 直接从图片生成位置和类别。

今天提到的 YOLO 就是一种 one-stage 方法。

YOLO 是 You Only Look Once 的缩写，意思是神经网络只需要看一次图片，就能输出结果。

YOLO 一共发布了四个版本，其中 YOLOv1 奠定了整个系列的基础，后面的系列就是在第一版基础上的改进，只为提升性能。

YOLO的检测方法如下：

将输入图像划分为 S×S 网格（grid），比如这里划分成 7×7=49 个 grid，如果目标的中心落入网格单元，则该网格单元负责检测该目标。注意不是整个物体落入单元格，只需要物体中心在即可。
每个网格单元预测 B（文中 B=2）个边界框和这些框的置信度得分。这个分数反映这个框包含物体的概率 Pr(Object) 以及预测框的位置准确性 IOU，所以置信分数也由这两部分定义：
每个 bounding box 都要包含 5 个预测值，x, y, w, h, confidence。（x,y）框中心是相对于网格单元的坐标，w 和 h 是框相当于整幅图的宽和高，confidence 代表该框与 ground truth 之间的 IOU（框里没有物体分数直接为 0 ）
因为位置和类别需要同时预测，所以每个单元格除了输出 bounding box 也输出物体的条件概率（该物体属于某一类的概率，当然这些概率以包含对象的网格单元为条件）。每个网格单元输出一个概率集合，不考虑这个 grid 预测几个 bounding box。
测试阶段，在测试时，将条件分类概率与各个框的置信度预测相乘，作为每个框特定于每个类的置信分数（这个分数编码了类别和位置两部分信息）。

与 R-CNN 系列方法相比：

R-CNN 及其变体采用 region proposals 而不是滑动窗口法找物体，是一种多阶段方法。调网络的时候需要分开调，运行慢。
YOLO 与 R-CNN 相似的地方是在网格单元找可能的边界框，用 CNN 提取特征。不同的是，加在网格单元的空间限制有助于防止同一个目标的重复检测，预测的边界框也少（98 个），还有把多个阶段结合成一个阶段。

四、各自特点和发展

1. YOLOv1

问题背景

之前 two-stage 方法如 R-CNN 把检测问题分成两部分，先生成候选区域（region proposal），再用分类器对区域分类，多阶段训练导致不易优化。

创新点

把检测当作回归问题，用一个网络输出位置和类别，实现了一个 unified system，从检测的角度是 one-stage的

训练流程

和 R-CNN 差不多

首先 ImageNet 1000类竞赛数据集上对卷积层进行预训练
然后再把网络根据检测任务微调

检测流程

输入一幅多目标图像
将图像划分成多个网格
通过网络得到每个网格的分类概率，以及各网格预测的框+置信度
针对每个框，把概率与置信分数相乘，作为每个框特定于每个类的置信分数
输出位置和类别信息

优点

快。因为回归问题没有复杂的流程（pipeline）。
可以基于整幅图像预测（看全貌而不是只看部分）。与基于滑动窗口和区域提议的技术不同，YOLO在训练和测试期间会看到整个图像，因此它隐式地编码有关类及其外观的上下文信息。因为能看到图像全貌，与 Fast R-CNN 相比，YOLO 预测背景出错的次数少了一半。
学习到物体的通用表示（generalizable representations），泛化能力好。因此，当训练集和测试集类型不同时，YOLO 的表现比 DPM 和 R-CNN 好得多，应用于新领域也很少出现崩溃的情况。

缺点

空间限制：一个单元格只能预测两个框和一个类别，这种空间约束必然会限制预测的数量；
难扩展：模型根据数据预测边界框，很难将其推广到具有新的或不同寻常的宽高比或配置的对象。由于输出层为全连接层，因此在检测时，YOLO 训练模型只支持与训练图像相同的输入分辨率。
网络损失不具体：无论边界框的大小都用损失函数近似为检测性能，物体 IOU 误差和小物体 IOU 误差对网络训练中 loss 贡献值接近，但对于大边界框来说，小损失影响不大，对于小边界框，小错误对 IOU 影响较大，从而降低了物体检测的定位准确性。

2. YOLOv2

问题背景

YOLOv1 检测性能低
当前的检测任务受数据集标签的限制（数据集必须有标签或通过分类赋予标签）。但是，标记检测图像比标记分类图像昂贵得多，所以检测数据和分类数据不是一个规模。

创新点

针对第一个问题，使用一些方法提升 YOLOv1 的性能，得到 YOLOv2。
针对第二个问题，提出了 ImageNet 和 COCO 数据集的结合方法，以及联合训练方法，训练 YOLOv2 后得到的模型叫 YOLO9000。

提升性能的方法

Accuracy: Batch Normalization, High Resolution Classifier, Convolutional With Anchor Boxes, , Direct location prediction, Fine-Grained Features, Multi-Scale Training
Speed: 提出一个新网络 Darknet-19

训练流程

论文提出了一种联合训练算法，该算法可以在检测和分类数据上训练目标检测器。
利用标记的检测图像来学习精准定位，同时使用分类图像来增加其“词汇量”和健壮性。

分类检测数据集结合方法：

检测数据集的标签少且普通，分类数据集的标签多且具体，如果想在两个数据集上训练，就得把它们的标签合并起来。很多分类方法都用一个 softmax layer ，但它的前提是假设所有类互斥，但的数据集类别是不都是互斥的（有可能是包含关系，例如狗和金毛犬），所以使用了一个多标签模型来组合数据集（无互斥的要求），及使用多个 softmax 。

大多数分类方法都假定标签采用扁平结构，但是对于组合数据集需要层次化的结构。

ImageNet 标签采用有向图结构。在这里，作者把数据集的结构简化为结构树（hierarchical
tree）。

通过改造图，最后得到一个 WordTree，这样每个节点/标签都有自己的概率，解决了类别之间不互斥的问题，就能在检测集和分类集上联合训练。

联合训练方法：

把检测和分类数据混合，训练过程中遇到带标签的检测图像，就基于 YOLOv2 整个损失函数进行反向传播，遇到分类图像，只反向传播网络的分类损失。

3. YOLOv3

问题背景

YOLOv3 的提出不是为了解决什么问题，整篇论文其实是技术报告。
YOLOv3 在 YOLOv2 基础上做了一些小改进，文章篇幅不长，核心思想和 YOLOv2、YOLO9000差不多。

模型改进

边界框预测：定位任务采用 anchor box 预测边界框的方法，YOLOv3 使用逻辑回归为每个边界框都预测了一个分数
objectness
score，打分依据是预测框与物体的重叠度。如果某个框的重叠度比其他框都高，它的分数就是 1，忽略那些不是最好的框且重叠度大于某一阈值（0.5）的框
类别预测：和 YOLOv2 一样，YOLOv3 仍然采取多标签分类
多尺度预测
使用新网络
Darknet-53 提取特征

4. YOLOv4

问题背景

YOLO 原作者之前宣布退出CV界，YOLOv4 的作者其实不是前三篇 YOLO 的一作
YOLOv4 是对 YOLOv3 的一个改进。它的改进方法就是总结了几乎所有的检测技巧，又提出一点儿技巧，然后经过筛选，排列组合，挨个实验（ablation study）哪些方法有效。
值得注意的是文章第二部分相关工作，简直就是目标检测的一个简单综述，阅读该部分，你就能了解模型及方法，如果它提到的每个方法你都了解，说明你在这个方向的研究较全面深入（我没达到）。

框架方法

下面这幅论文中的图介绍了 YOLOv4 检测器的构成及使用的训练方法，这些是经过大量实验选出的性能最好的组合

五、总结

回顾 YOLO 系列的发展，可以看出 YOLO
后期没有提出新颖的想法，更重视应用落地。