2020-04-10 00:45:02 +08:00
|
|
|
|
# 其他模型
|
|
|
|
|
|
|
|
|
|
|
|
## 概述
|
2020-04-15 12:54:45 +00:00
|
|
|
|
2012年，Alex等人提出的AlexNet网络在ImageNet大赛上以远超第二名的成绩夺冠，卷积神经网络乃至深度学习引起了广泛的关注。AlexNet使用relu作为CNN的激活函数，解决了sigmoid在网络较深时的梯度弥散问题。训练时使用Dropout随机丢掉一部分神经元，避免了模型过拟合。网络中使用重叠的最大池化代替了此前CNN中普遍使用的平均池化，避免了平均池化的模糊效果，提升了特征的丰富性。从某种意义上说，AlexNet引爆了神经网络的研究与应用热潮。
|
2020-04-14 13:32:26 +00:00
|
|
|
|
|
2020-04-15 12:54:45 +00:00
|
|
|
|
SqueezeNet在ImageNet-1k上实现了与AlexNet相同的精度，但只用了1/50的参数量。该网络的核心是Fire模块，Fire模块通过使用1x1的卷积实现通道降维，从而大大节省了参数量。作者通过大量堆叠Fire模块组成了SqueezeNet。
|
2020-04-14 13:32:26 +00:00
|
|
|
|
|
2020-04-15 12:54:45 +00:00
|
|
|
|
VGG由牛津大学计算机视觉组和DeepMind公司研究员一起研发的卷积神经网络。该网络探索了卷积神经网络的深度和其性能之间的关系，通过反复的堆叠3x3的小型卷积核和2x2的最大池化层，成功的构建了多层卷积神经网络并取得了不错的收敛精度。最终，VGG获得了ILSVRC 2014比赛分类项目的亚军和定位项目的冠军。
|
2020-04-14 13:32:26 +00:00
|
|
|
|
|
2020-04-15 12:54:45 +00:00
|
|
|
|
DarkNet53是YOLO作者在论文设计的用于目标检测的backbone，该网络基本由1x1与3x3卷积构成，共53层，取名为DarkNet53。
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## 精度、FLOPS和参数量
|
|
|
|
|
|
|
|
|
|
|
|
| Models | Top1 | Top5 | Reference<br>top1 | Reference<br>top5 | FLOPS<br>(G) | Parameters<br>(M) |
|
|
|
|
|
|
|:--:|:--:|:--:|:--:|:--:|:--:|:--:|
|
|
|
|
|
|
| AlexNet | 0.567 | 0.792 | 0.5720 | | 1.370 | 61.090 |
|
|
|
|
|
|
| SqueezeNet1_0 | 0.596 | 0.817 | 0.575 | | 1.550 | 1.240 |
|
|
|
|
|
|
| SqueezeNet1_1 | 0.601 | 0.819 | | | 0.690 | 1.230 |
|
|
|
|
|
|
| VGG11 | 0.693 | 0.891 | | | 15.090 | 132.850 |
|
|
|
|
|
|
| VGG13 | 0.700 | 0.894 | | | 22.480 | 133.030 |
|
|
|
|
|
|
| VGG16 | 0.720 | 0.907 | 0.715 | 0.901 | 30.810 | 138.340 |
|
|
|
|
|
|
| VGG19 | 0.726 | 0.909 | | | 39.130 | 143.650 |
|
|
|
|
|
|
| DarkNet53 | 0.780 | 0.941 | 0.772 | 0.938 | 18.580 | 41.600 |
|
|
|
|
|
|
| ResNet50_ACNet | 0.767 | 0.932 | | | 10.730 | 33.110 |
|
|
|
|
|
|
| ResNet50_ACNet<br>_deploy | 0.767 | 0.932 | | | 8.190 | 25.550 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## FP32预测速度
|
|
|
|
|
|
|
2020-04-13 14:43:27 +00:00
|
|
|
|
|
|
|
|
|
|
| Models | Crop Size | Resize Short Size | Batch Size=1<br>(ms) |
|
|
|
|
|
|
|---------------------------|-----------|-------------------|----------------------|
|
|
|
|
|
|
| AlexNet | 224 | 256 | 1.176 |
|
|
|
|
|
|
| SqueezeNet1_0 | 224 | 256 | 0.860 |
|
|
|
|
|
|
| SqueezeNet1_1 | 224 | 256 | 0.763 |
|
|
|
|
|
|
| VGG11 | 224 | 256 | 1.867 |
|
|
|
|
|
|
| VGG13 | 224 | 256 | 2.148 |
|
|
|
|
|
|
| VGG16 | 224 | 256 | 2.616 |
|
|
|
|
|
|
| VGG19 | 224 | 256 | 3.076 |
|
|
|
|
|
|
| DarkNet53 | 256 | 256 | 3.139 |
|
|
|
|
|
|
| ResNet50_ACNet<br>_deploy | 224 | 256 | 5.626 |
|
