commit
f611f035e0
deploy
configs/PULC
vehicle_exists
images/PULC/vehicle_exists
docs/zh_CN
ppcls/configs/PULC
|
@ -30,7 +30,7 @@ PostProcess:
|
||||||
main_indicator: ThreshOutput
|
main_indicator: ThreshOutput
|
||||||
ThreshOutput:
|
ThreshOutput:
|
||||||
threshold: 0.5
|
threshold: 0.5
|
||||||
label_0: nocar
|
label_0: no_car
|
||||||
label_1: contains_car
|
label_1: contains_car
|
||||||
SavePreLabel:
|
SavePreLabel:
|
||||||
save_dir: ./pre_label/
|
save_dir: ./pre_label/
|
||||||
|
|
|
@ -1,36 +0,0 @@
|
||||||
Global:
|
|
||||||
infer_imgs: "./images/PULC/car_exists/objects365_00001507.jpeg"
|
|
||||||
inference_model_dir: "./models/car_exists_infer"
|
|
||||||
batch_size: 1
|
|
||||||
use_gpu: True
|
|
||||||
enable_mkldnn: False
|
|
||||||
cpu_num_threads: 10
|
|
||||||
enable_benchmark: True
|
|
||||||
use_fp16: False
|
|
||||||
ir_optim: True
|
|
||||||
use_tensorrt: False
|
|
||||||
gpu_mem: 8000
|
|
||||||
enable_profile: False
|
|
||||||
|
|
||||||
PreProcess:
|
|
||||||
transform_ops:
|
|
||||||
- ResizeImage:
|
|
||||||
resize_short: 256
|
|
||||||
- CropImage:
|
|
||||||
size: 224
|
|
||||||
- NormalizeImage:
|
|
||||||
scale: 0.00392157
|
|
||||||
mean: [0.485, 0.456, 0.406]
|
|
||||||
std: [0.229, 0.224, 0.225]
|
|
||||||
order: ''
|
|
||||||
channel_num: 3
|
|
||||||
- ToCHWImage:
|
|
||||||
|
|
||||||
PostProcess:
|
|
||||||
main_indicator: ThreshOutput
|
|
||||||
ThreshOutput:
|
|
||||||
threshold: 0.5
|
|
||||||
label_0: nocar
|
|
||||||
label_1: contains_car
|
|
||||||
SavePreLabel:
|
|
||||||
save_dir: ./pre_label/
|
|
|
@ -1,36 +0,0 @@
|
||||||
Global:
|
|
||||||
infer_imgs: "./images/PULC/vehicle_exists/objects365_00001507.jpeg"
|
|
||||||
inference_model_dir: "./models/vehicle_exists_infer"
|
|
||||||
batch_size: 1
|
|
||||||
use_gpu: True
|
|
||||||
enable_mkldnn: False
|
|
||||||
cpu_num_threads: 10
|
|
||||||
enable_benchmark: True
|
|
||||||
use_fp16: False
|
|
||||||
ir_optim: True
|
|
||||||
use_tensorrt: False
|
|
||||||
gpu_mem: 8000
|
|
||||||
enable_profile: False
|
|
||||||
|
|
||||||
PreProcess:
|
|
||||||
transform_ops:
|
|
||||||
- ResizeImage:
|
|
||||||
resize_short: 256
|
|
||||||
- CropImage:
|
|
||||||
size: 224
|
|
||||||
- NormalizeImage:
|
|
||||||
scale: 0.00392157
|
|
||||||
mean: [0.485, 0.456, 0.406]
|
|
||||||
std: [0.229, 0.224, 0.225]
|
|
||||||
order: ''
|
|
||||||
channel_num: 3
|
|
||||||
- ToCHWImage:
|
|
||||||
|
|
||||||
PostProcess:
|
|
||||||
main_indicator: ThreshOutput
|
|
||||||
ThreshOutput:
|
|
||||||
threshold: 0.5
|
|
||||||
label_0: no_vehicle
|
|
||||||
label_1: contains_vehicle
|
|
||||||
SavePreLabel:
|
|
||||||
save_dir: ./pre_label/
|
|
Binary file not shown.
Before Width: | Height: | Size: 157 KiB |
Binary file not shown.
Before Width: | Height: | Size: 178 KiB |
|
@ -1,4 +1,4 @@
|
||||||
# PULC 有人/无人分类模型
|
# PULC 有车/无车分类模型
|
||||||
|
|
||||||
------
|
------
|
||||||
|
|
||||||
|
@ -40,7 +40,7 @@
|
||||||
|
|
||||||
## 1. 模型和应用场景介绍
|
## 1. 模型和应用场景介绍
|
||||||
|
|
||||||
该案例提供了用户使用 PaddleClas 的超轻量图像分类方案(PULC,Practical Ultra Lightweight Classification)快速构建轻量级、高精度、可落地的有人/无人的分类模型。该模型可以广泛应用于如监控场景、人员进出管控场景、海量数据过滤场景等。
|
该案例提供了用户使用 PaddleClas 的超轻量图像分类方案(PULC,Practical Ultra Lightweight Classification)快速构建轻量级、高精度、可落地的有车/无车的分类模型。该模型可以广泛应用于如监控场景、海量数据过滤场景等。
|
||||||
|
|
||||||
下表列出了判断图片中是否有车的二分类模型的相关指标,前两行展现了使用 SwinTranformer_tiny 和 MobileNetV3_small_x0_35 作为 backbone 训练得到的模型的相关指标,第三行至第六行依次展现了替换 backbone 为 PPLCNet_x1_0、使用 SSLD 预训练模型、使用 SSLD 预训练模型 + EDA 策略、使用 SSLD 预训练模型 + EDA 策略 + SKL-UGI 知识蒸馏策略训练得到的模型的相关指标。
|
下表列出了判断图片中是否有车的二分类模型的相关指标,前两行展现了使用 SwinTranformer_tiny 和 MobileNetV3_small_x0_35 作为 backbone 训练得到的模型的相关指标,第三行至第六行依次展现了替换 backbone 为 PPLCNet_x1_0、使用 SSLD 预训练模型、使用 SSLD 预训练模型 + EDA 策略、使用 SSLD 预训练模型 + EDA 策略 + SKL-UGI 知识蒸馏策略训练得到的模型的相关指标。
|
||||||
|
|
||||||
|
@ -58,7 +58,7 @@
|
||||||
|
|
||||||
**备注:**
|
**备注:**
|
||||||
|
|
||||||
* `Tpr`指标的介绍可以参考 [3.2 小节](#3.2)的备注部分,延时是基于 Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz 测试得到,开启 MKLDNN 加速策略,线程数为10。
|
* `Tpr`指标的介绍可以参考 [3.3节](#3.3)的备注部分,延时是基于 Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz 测试得到,开启 MKLDNN 加速策略,线程数为10。
|
||||||
* 关于PP-LCNet的介绍可以参考[PP-LCNet介绍](../models/PP-LCNet.md),相关论文可以查阅[PP-LCNet paper](https://arxiv.org/abs/2109.15099)。
|
* 关于PP-LCNet的介绍可以参考[PP-LCNet介绍](../models/PP-LCNet.md),相关论文可以查阅[PP-LCNet paper](https://arxiv.org/abs/2109.15099)。
|
||||||
|
|
||||||
|
|
||||||
|
@ -160,7 +160,7 @@ print(next(result))
|
||||||
|
|
||||||
- 训练集合,本案例处理了 Objects365 数据训练集的标注文件,如果某张图含有“car”的标签,且这个框的面积在整张图中的比例大于 10%,即认为该张图中含有车,如果某张图中没有任何与交通工具,例如car、bus等相关的的标签,则认为该张图中不含有车。经过处理后,得到 108629 条可用数据,其中有车的数据有 27422 条,无车的数据 81207 条。
|
- 训练集合,本案例处理了 Objects365 数据训练集的标注文件,如果某张图含有“car”的标签,且这个框的面积在整张图中的比例大于 10%,即认为该张图中含有车,如果某张图中没有任何与交通工具,例如car、bus等相关的的标签,则认为该张图中不含有车。经过处理后,得到 108629 条可用数据,其中有车的数据有 27422 条,无车的数据 81207 条。
|
||||||
|
|
||||||
- 验证集合,处理方法与训练集相同,数据来源与 Objects365 数据集的验证集。为了测试结果准确,验证集经过人工校正,去除了一些可能存在标注错误的图像。
|
- 验证集合,处理方法与训练集相同,数据来源于 Objects365 数据集的验证集。为了测试结果准确,验证集经过人工校正,去除了一些可能存在标注错误的图像。
|
||||||
|
|
||||||
* 注:由于objects365的标签并不是完全互斥的,例如F1赛车可能是 "F1 Formula",也可能被标称"car"。为了减轻干扰,我们仅保留"car"标签作为有车,而将不含任何交通工具的图作为无车。
|
* 注:由于objects365的标签并不是完全互斥的,例如F1赛车可能是 "F1 Formula",也可能被标称"car"。为了减轻干扰,我们仅保留"car"标签作为有车,而将不含任何交通工具的图作为无车。
|
||||||
|
|
||||||
|
@ -265,7 +265,7 @@ python3 tools/infer.py \
|
||||||
输出结果如下:
|
输出结果如下:
|
||||||
|
|
||||||
```
|
```
|
||||||
[{'class_ids': [1], 'scores': [0.9871138], 'label_names': ['contains_vehicle'], 'filename': 'deploy/images/PULC/car_exists/objects365_00001507.jpeg'}]
|
[{'class_ids': [1], 'scores': [0.9871138], 'label_names': ['contains_car'], 'filename': 'deploy/images/PULC/car_exists/objects365_00001507.jpeg'}]
|
||||||
```
|
```
|
||||||
|
|
||||||
**备注:**
|
**备注:**
|
||||||
|
@ -274,7 +274,7 @@ python3 tools/infer.py \
|
||||||
|
|
||||||
* 默认是对 `deploy/images/PULC/car_exists/objects365_00001507.jpeg` 进行预测,此处也可以通过增加字段 `-o Infer.infer_imgs=xxx` 对其他图片预测。
|
* 默认是对 `deploy/images/PULC/car_exists/objects365_00001507.jpeg` 进行预测,此处也可以通过增加字段 `-o Infer.infer_imgs=xxx` 对其他图片预测。
|
||||||
|
|
||||||
* 二分类默认的阈值为0.5, 如果需要指定阈值,可以重写 `Infer.PostProcess.threshold` ,如`-o Infer.PostProcess.threshold=0.9794`,该值需要根据实际场景来确定,此处的 `0.9794` 是在该场景中的 `val` 数据集在千分之一 Fpr 下得到的最佳 Tpr 所得到的。
|
* 二分类默认的阈值为0.5, 如果需要指定阈值,可以重写 `Infer.PostProcess.threshold` ,如`-o Infer.PostProcess.threshold=0.9794`,该值需要根据实际场景来确定,此处的 `0.9794` 是在该场景中的 `val` 数据集在百分之一 Fpr 下得到的最佳 Tpr 所得到的。
|
||||||
|
|
||||||
|
|
||||||
<a name="4"></a>
|
<a name="4"></a>
|
||||||
|
@ -326,7 +326,7 @@ python3 -m paddle.distributed.launch \
|
||||||
|
|
||||||
## 5. 超参搜索
|
## 5. 超参搜索
|
||||||
|
|
||||||
在 [3.2 节](#3.2)和 [4.1 节](#4.1)所使用的超参数是根据 PaddleClas 提供的 `SHAS 超参数搜索策略` 搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考[SHAS 超参数搜索策略](PULC_train.md#4-超参搜索)来获得更好的训练超参数。
|
在 [3.3 节](#3.3)和 [4.1 节](#4.1)所使用的超参数是根据 PaddleClas 提供的 `SHAS 超参数搜索策略` 搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考[SHAS 超参数搜索策略](PULC_train.md#4-超参搜索)来获得更好的训练超参数。
|
||||||
|
|
||||||
**备注:** 此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。如果没有更换数据集,可以忽略此节内容。
|
**备注:** 此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。如果没有更换数据集,可以忽略此节内容。
|
||||||
|
|
||||||
|
@ -417,7 +417,7 @@ objects365_00001507.jpeg: class id(s): [1], score(s): [0.99], label_name(s
|
||||||
```
|
```
|
||||||
|
|
||||||
|
|
||||||
**备注:** 二分类默认的阈值为0.5, 如果需要指定阈值,可以重写 `Infer.PostProcess.threshold` ,如`-o Infer.PostProcess.threshold=0.9794`,该值需要根据实际场景来确定,此处的 `0.9794` 是在该场景中的 `val` 数据集在千分之一 Fpr 下得到的最佳 Tpr 所得到的。该阈值的确定方法可以参考[3.3节](#3.3)备注部分。
|
**备注:** 二分类默认的阈值为0.5, 如果需要指定阈值,可以重写 `Infer.PostProcess.threshold` ,如`-o Infer.PostProcess.threshold=0.9794`,该值需要根据实际场景来确定,此处的 `0.9794` 是在该场景中的 `val` 数据集在百分之一 Fpr 下得到的最佳 Tpr 所得到的。该阈值的确定方法可以参考[3.3节](#3.3)备注部分。
|
||||||
|
|
||||||
<a name="6.2.2"></a>
|
<a name="6.2.2"></a>
|
||||||
|
|
||||||
|
|
|
@ -261,7 +261,7 @@ python3 tools/eval.py \
|
||||||
```python
|
```python
|
||||||
python3 tools/infer.py \
|
python3 tools/infer.py \
|
||||||
-c ./ppcls/configs/PULC/person_exists/PPLCNet_x1_0.yaml \
|
-c ./ppcls/configs/PULC/person_exists/PPLCNet_x1_0.yaml \
|
||||||
-o Global.pretrained_model=output/PPLCNet_x1_0/best_model
|
-o Global.pretrained_model=output/PPLCNet_x1_0/best_model
|
||||||
```
|
```
|
||||||
|
|
||||||
输出结果如下:
|
输出结果如下:
|
||||||
|
@ -328,7 +328,7 @@ python3 -m paddle.distributed.launch \
|
||||||
|
|
||||||
## 5. 超参搜索
|
## 5. 超参搜索
|
||||||
|
|
||||||
在 [3.2 节](#3.2)和 [4.1 节](#4.1)所使用的超参数是根据 PaddleClas 提供的 `SHAS 超参数搜索策略` 搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考[SHAS 超参数搜索策略](PULC_train.md#4-超参搜索)来获得更好的训练超参数。
|
在 [3.3 节](#3.3)和 [4.1 节](#4.1)所使用的超参数是根据 PaddleClas 提供的 `SHAS 超参数搜索策略` 搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考[SHAS 超参数搜索策略](PULC_train.md#4-超参搜索)来获得更好的训练超参数。
|
||||||
|
|
||||||
**备注:** 此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。如果没有更换数据集,可以忽略此节内容。
|
**备注:** 此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。如果没有更换数据集,可以忽略此节内容。
|
||||||
|
|
||||||
|
|
|
@ -55,11 +55,11 @@
|
||||||
| <b>PPLCNet_x1_0**<b> | <b>96.01<b> | <b>2.72<b> | <b>6.5<b> | 使用 SSLD 预训练模型+EDA 策略|
|
| <b>PPLCNet_x1_0**<b> | <b>96.01<b> | <b>2.72<b> | <b>6.5<b> | 使用 SSLD 预训练模型+EDA 策略|
|
||||||
| PPLCNet_x1_0** | 95.86 | 2.72 | 6.5 | 使用 SSLD 预训练模型+EDA 策略+SKL-UGI 知识蒸馏策略|
|
| PPLCNet_x1_0** | 95.86 | 2.72 | 6.5 | 使用 SSLD 预训练模型+EDA 策略+SKL-UGI 知识蒸馏策略|
|
||||||
|
|
||||||
从表中可以看出,backbone 为 SwinTranformer_tiny 时精度较高,但是推理速度较慢。将 backboone 替换为轻量级模型 MobileNetV3_small_x0_35 后,速度可以大幅提升,精度下降也比较明显。将 backbone 替换为 PPLCNet_x1_0 时,精度较 MobileNetV3_small_x0_35 高 8.6 个百分点,速度快10%左右。在此基础上,更改分辨率和stride, 速度变慢 27%,但是精度可以提升 4.5%(采用[PaddleOCR](https://github.com/PaddlePaddle/PaddleOCR)的方案),使用 SSLD 预训练模型后,精度可以继续提升约 0.05% ,进一步地,当融合EDA策略后,精度可以再提升 1.9 个百分点。最后,融合SKL-UGI 知识蒸馏策略后,在该场景无效。关于 PULC 的训练方法和推理部署方法将在下面详细介绍。
|
从表中可以看出,backbone 为 SwinTranformer_tiny 时精度较高,但是推理速度较慢。将 backboone 替换为轻量级模型 MobileNetV3_small_x0_35 后,速度可以大幅提升,精度下降也比较明显。将 backbone 替换为 PPLCNet_x1_0 时,精度较 MobileNetV3_small_x0_35 高 8.6 个百分点,速度快10%左右。在此基础上,更改分辨率和stride, 速度变慢 27%,但是精度可以提升 4.5 个百分点(采用[PaddleOCR](https://github.com/PaddlePaddle/PaddleOCR)的方案),使用 SSLD 预训练模型后,精度可以继续提升约 0.05 个百分点 ,进一步地,当融合EDA策略后,精度可以再提升 1.9 个百分点。最后,融合SKL-UGI 知识蒸馏策略后,在该场景无效。关于 PULC 的训练方法和推理部署方法将在下面详细介绍。
|
||||||
|
|
||||||
**备注:**
|
**备注:**
|
||||||
|
|
||||||
* 其中不带\*的模型表示分辨率为224x224,带\*的模型表示分辨率为48x192(h*w),数据增强从网络中的 stride 改为 `[2, [2, 1], [2, 1], [2, 1], [2, 1]]`,其中,外层列表中的每一个元素代表网络结构下采样层的stride,该策略为 [PaddleOCR](https://github.com/PaddlePaddle/PaddleOCR) 提供的文本行方向分类器方案。带\*\*的模型表示分辨率为80x160(h*w), 网络中的 stride 改为 `[2, [2, 1], [2, 1], [2, 1], [2, 1]]`,其中,外层列表中的每一个元素代表网络结构下采样层的stride,此分辨率是经过[SHAS 超参数搜索策略](#TODO)搜索得到的。
|
* 其中不带\*的模型表示分辨率为224x224,带\*的模型表示分辨率为48x192(h\*w),数据增强从网络中的 stride 改为 `[2, [2, 1], [2, 1], [2, 1], [2, 1]]`,其中,外层列表中的每一个元素代表网络结构下采样层的stride,该策略为 [PaddleOCR](https://github.com/PaddlePaddle/PaddleOCR) 提供的文本行方向分类器方案。带\*\*的模型表示分辨率为80x160(h\*w), 网络中的 stride 改为 `[2, [2, 1], [2, 1], [2, 1], [2, 1]]`,其中,外层列表中的每一个元素代表网络结构下采样层的stride,此分辨率是经过[SHAS 超参数搜索策略](PULC_train.md#4-超参搜索)搜索得到的。
|
||||||
* 延时是基于 Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz 测试得到,开启 MKLDNN 加速策略,线程数为10。
|
* 延时是基于 Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz 测试得到,开启 MKLDNN 加速策略,线程数为10。
|
||||||
* 关于PP-LCNet的介绍可以参考[PP-LCNet介绍](../models/PP-LCNet.md),相关论文可以查阅[PP-LCNet paper](https://arxiv.org/abs/2109.15099)。
|
* 关于PP-LCNet的介绍可以参考[PP-LCNet介绍](../models/PP-LCNet.md),相关论文可以查阅[PP-LCNet paper](https://arxiv.org/abs/2109.15099)。
|
||||||
|
|
||||||
|
@ -116,7 +116,6 @@ Predict complete!
|
||||||
|
|
||||||
**备注**: 更换其他预测的数据时,只需要改变 `--infer_imgs=xx` 中的字段即可,支持传入整个文件夹。
|
**备注**: 更换其他预测的数据时,只需要改变 `--infer_imgs=xx` 中的字段即可,支持传入整个文件夹。
|
||||||
|
|
||||||
|
|
||||||
* 在 Python 代码中预测
|
* 在 Python 代码中预测
|
||||||
```python
|
```python
|
||||||
import paddleclas
|
import paddleclas
|
||||||
|
@ -140,7 +139,7 @@ print(next(result))
|
||||||
|
|
||||||
### 3.1 环境配置
|
### 3.1 环境配置
|
||||||
|
|
||||||
* 安装:请先参考 [Paddle 安装教程](../installation/install_paddle.md) 以及 [PaddleClas 安装教程](../installation/install_paddleclas.md) 配置 PaddleClas 运行环境。
|
* 安装:请先参考文档 [环境准备](../installation/install_paddleclas.md) 配置 PaddleClas 运行环境。
|
||||||
|
|
||||||
<a name="3.2"></a>
|
<a name="3.2"></a>
|
||||||
|
|
||||||
|
@ -168,17 +167,15 @@ print(next(result))
|
||||||
|
|
||||||

|

|
||||||
|
|
||||||
|
|
||||||
此处提供了经过上述方法处理好的数据,可以直接下载得到。
|
此处提供了经过上述方法处理好的数据,可以直接下载得到。
|
||||||
|
|
||||||
|
|
||||||
进入 PaddleClas 目录。
|
进入 PaddleClas 目录。
|
||||||
|
|
||||||
```
|
```
|
||||||
cd path_to_PaddleClas
|
cd path_to_PaddleClas
|
||||||
```
|
```
|
||||||
|
|
||||||
进入 `dataset/` 目录,下载并解压有人/无人场景的数据。
|
进入 `dataset/` 目录,下载并解压文本行方向分类场景的数据。
|
||||||
|
|
||||||
```shell
|
```shell
|
||||||
cd dataset
|
cd dataset
|
||||||
|
@ -190,7 +187,6 @@ cd ../
|
||||||
执行上述命令后,`dataset/` 下存在 `textline_orientation` 目录,该目录中具有以下数据:
|
执行上述命令后,`dataset/` 下存在 `textline_orientation` 目录,该目录中具有以下数据:
|
||||||
|
|
||||||
```
|
```
|
||||||
|
|
||||||
├── 0
|
├── 0
|
||||||
│ ├── img_0.jpg
|
│ ├── img_0.jpg
|
||||||
│ ├── img_1.jpg
|
│ ├── img_1.jpg
|
||||||
|
@ -253,7 +249,7 @@ python3 tools/eval.py \
|
||||||
```python
|
```python
|
||||||
python3 tools/infer.py \
|
python3 tools/infer.py \
|
||||||
-c ./ppcls/configs/PULC/textline_orientation/PPLCNet_x1_0.yaml \
|
-c ./ppcls/configs/PULC/textline_orientation/PPLCNet_x1_0.yaml \
|
||||||
-o Global.pretrained_model=output/PPLCNet_x1_0/best_model \
|
-o Global.pretrained_model=output/PPLCNet_x1_0/best_model
|
||||||
```
|
```
|
||||||
|
|
||||||
输出结果如下:
|
输出结果如下:
|
||||||
|
@ -318,7 +314,7 @@ python3 -m paddle.distributed.launch \
|
||||||
|
|
||||||
## 5. 超参搜索
|
## 5. 超参搜索
|
||||||
|
|
||||||
在 [3.2 节](#3.2)和 [4.1 节](#4.1)所使用的超参数是根据 PaddleClas 提供的 `SHAS 超参数搜索策略` 搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考[SHAS 超参数搜索策略](PULC_train.md#4-超参搜索)来获得更好的训练超参数。
|
在 [3.3 节](#3.3)和 [4.1 节](#4.1)所使用的超参数是根据 PaddleClas 提供的 `SHAS 超参数搜索策略` 搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考[SHAS 超参数搜索策略](PULC_train.md#4-超参搜索)来获得更好的训练超参数。
|
||||||
|
|
||||||
**备注:** 此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。
|
**备注:** 此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。
|
||||||
|
|
||||||
|
|
|
@ -55,7 +55,7 @@
|
||||||
| PPLCNet_x1_0 | 90.59 | 2.36 | 7.2 | 使用SSLD预训练模型+EDA策略|
|
| PPLCNet_x1_0 | 90.59 | 2.36 | 7.2 | 使用SSLD预训练模型+EDA策略|
|
||||||
| <b>PPLCNet_x1_0<b> | <b>90.81<b> | <b>2.36<b> | <b>8.2<b> | 使用SSLD预训练模型+EDA策略+SKL-UGI知识蒸馏策略|
|
| <b>PPLCNet_x1_0<b> | <b>90.81<b> | <b>2.36<b> | <b>8.2<b> | 使用SSLD预训练模型+EDA策略+SKL-UGI知识蒸馏策略|
|
||||||
|
|
||||||
从表中可以看出,backbone 为 Res2Net200_vd_26w_4s 时精度较高,但是推理速度较慢。将 backbone 替换为轻量级模型 MobileNetV3_small_x0_35 后,速度可以大幅提升,但是精度下降明显。将 backbone 替换为 PPLCNet_x1_0 时,精度提升 2.16%,同时速度也提升 23% 左右。在此基础上,使用 SSLD 预训练模型后,在不改变推理速度的前提下,精度可以提升约 0.5%,进一步地,当融合EDA策略后,精度可以再提升 0.52%,最后,在使用 SKL-UGI 知识蒸馏后,精度可以继续提升 0.23%。此时,PPLCNet_x1_0 的精度与 Res2Net200_vd_26w_4s 仅相差0.55%,但是速度快32倍。关于 PULC 的训练方法和推理部署方法将在下面详细介绍。
|
从表中可以看出,backbone 为 Res2Net200_vd_26w_4s 时精度较高,但是推理速度较慢。将 backbone 替换为轻量级模型 MobileNetV3_small_x0_35 后,速度可以大幅提升,但是精度下降明显。将 backbone 替换为 PPLCNet_x1_0 时,精度提升 2 个百分点,同时速度也提升 23% 左右。在此基础上,使用 SSLD 预训练模型后,在不改变推理速度的前提下,精度可以提升约 0.5 个百分点,进一步地,当融合EDA策略后,精度可以再提升 0.52 个百分点,最后,在使用 SKL-UGI 知识蒸馏后,精度可以继续提升 0.23 个百分点。此时,PPLCNet_x1_0 的精度与 Res2Net200_vd_26w_4s 仅相差 0.55 个百分点,但是速度快 32 倍。关于 PULC 的训练方法和推理部署方法将在下面详细介绍。
|
||||||
|
|
||||||
**备注:**
|
**备注:**
|
||||||
|
|
||||||
|
@ -67,9 +67,9 @@
|
||||||
## 2. 模型快速体验
|
## 2. 模型快速体验
|
||||||
|
|
||||||
<a name="2.1"></a>
|
<a name="2.1"></a>
|
||||||
|
|
||||||
### 2.1 安装 paddlepaddle
|
### 2.1 安装 paddlepaddle
|
||||||
|
|
||||||
- 您的机器安装的是 CUDA9 或 CUDA10,请运行以下命令安装
|
- 您的机器安装的是 CUDA9 或 CUDA10,请运行以下命令安装
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
|
@ -81,23 +81,23 @@ python3 -m pip install paddlepaddle-gpu -i https://mirror.baidu.com/pypi/simple
|
||||||
```bash
|
```bash
|
||||||
python3 -m pip install paddlepaddle -i https://mirror.baidu.com/pypi/simple
|
python3 -m pip install paddlepaddle -i https://mirror.baidu.com/pypi/simple
|
||||||
```
|
```
|
||||||
|
|
||||||
更多的版本需求,请参照[飞桨官网安装文档](https://www.paddlepaddle.org.cn/install/quick)中的说明进行操作。
|
更多的版本需求,请参照[飞桨官网安装文档](https://www.paddlepaddle.org.cn/install/quick)中的说明进行操作。
|
||||||
|
|
||||||
<a name="2.2"></a>
|
<a name="2.2"></a>
|
||||||
|
|
||||||
### 2.2 安装 paddleclas
|
### 2.2 安装 paddleclas
|
||||||
|
|
||||||
使用如下命令快速安装 paddleclas
|
使用如下命令快速安装 paddleclas
|
||||||
|
|
||||||
```
|
```
|
||||||
pip3 install paddleclas
|
pip3 install paddleclas
|
||||||
```
|
```
|
||||||
|
|
||||||
<a name="2.3"></a>
|
<a name="2.3"></a>
|
||||||
|
|
||||||
### 2.3 预测
|
### 2.3 预测
|
||||||
|
|
||||||
点击[这里](https://paddleclas.bj.bcebos.com/data/PULC/pulc_demo_imgs.zip)下载 demo 数据并解压,然后在终端中切换到相应目录。
|
点击[这里](https://paddleclas.bj.bcebos.com/data/PULC/pulc_demo_imgs.zip)下载 demo 数据并解压,然后在终端中切换到相应目录。
|
||||||
|
|
||||||
* 使用命令行快速预测
|
* 使用命令行快速预测
|
||||||
|
@ -337,7 +337,7 @@ python3 -m paddle.distributed.launch \
|
||||||
|
|
||||||
## 5. 超参搜索
|
## 5. 超参搜索
|
||||||
|
|
||||||
在 [3.2 节](#3.2)和 [4.1 节](#4.1)所使用的超参数是根据 PaddleClas 提供的 `SHAS 超参数搜索策略` 搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考[SHAS 超参数搜索策略](PULC_train.md#4-超参搜索)来获得更好的训练超参数。
|
在 [3.3 节](#3.3)和 [4.1 节](#4.1)所使用的超参数是根据 PaddleClas 提供的 `SHAS 超参数搜索策略` 搜索得到的,如果希望在自己的数据集上得到更好的结果,可以参考[SHAS 超参数搜索策略](PULC_train.md#4-超参搜索)来获得更好的训练超参数。
|
||||||
|
|
||||||
**备注:** 此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。如果没有更换数据集,可以忽略此节内容。
|
**备注:** 此部分内容是可选内容,搜索过程需要较长的时间,您可以根据自己的硬件情况来选择执行。如果没有更换数据集,可以忽略此节内容。
|
||||||
|
|
||||||
|
@ -368,10 +368,10 @@ python3 tools/export_model.py \
|
||||||
执行完该脚本后会在 `deploy/models/` 下生成 `PPLCNet_x1_0_vehicle_attributeibute_infer` 文件夹,`models` 文件夹下应有如下文件结构:
|
执行完该脚本后会在 `deploy/models/` 下生成 `PPLCNet_x1_0_vehicle_attributeibute_infer` 文件夹,`models` 文件夹下应有如下文件结构:
|
||||||
|
|
||||||
```
|
```
|
||||||
├── PPLCNet_x1_0_vehicle_attribute_infer
|
└── PPLCNet_x1_0_vehicle_attribute_infer
|
||||||
│ ├── inference.pdiparams
|
├── inference.pdiparams
|
||||||
│ ├── inference.pdiparams.info
|
├── inference.pdiparams.info
|
||||||
│ └── inference.pdmodel
|
└── inference.pdmodel
|
||||||
```
|
```
|
||||||
|
|
||||||
**备注:** 此处的最佳权重是经过知识蒸馏后的权重路径,如果没有执行知识蒸馏的步骤,最佳模型保存在`output/PPLCNet_x1_0/best_model.pdparams`中。
|
**备注:** 此处的最佳权重是经过知识蒸馏后的权重路径,如果没有执行知识蒸馏的步骤,最佳模型保存在`output/PPLCNet_x1_0/best_model.pdparams`中。
|
||||||
|
|
|
@ -6,7 +6,7 @@
|
||||||
- [1. 算法介绍](#1)
|
- [1. 算法介绍](#1)
|
||||||
- [1.1 知识蒸馏简介](#1.1)
|
- [1.1 知识蒸馏简介](#1.1)
|
||||||
- [1.2 SSLD蒸馏策略](#1.2)
|
- [1.2 SSLD蒸馏策略](#1.2)
|
||||||
- [1.2 SKL-UGI蒸馏策略](#1.3)
|
- [1.3 SKL-UGI蒸馏策略](#1.3)
|
||||||
- [2. SSLD预训练模型库](#2)
|
- [2. SSLD预训练模型库](#2)
|
||||||
- [3. SSLD使用](#3)
|
- [3. SSLD使用](#3)
|
||||||
- [3.1 加载SSLD模型进行微调](#3.1)
|
- [3.1 加载SSLD模型进行微调](#3.1)
|
||||||
|
@ -19,6 +19,8 @@
|
||||||
|
|
||||||
## 1. 算法介绍
|
## 1. 算法介绍
|
||||||
|
|
||||||
|
<a name="1.1"></a>
|
||||||
|
|
||||||
### 1.1 简介
|
### 1.1 简介
|
||||||
|
|
||||||
PaddleClas 融合已有的知识蒸馏方法 [2,3],提供了一种简单的半监督标签知识蒸馏方案(SSLD,Simple Semi-supervised Label Distillation),基于 ImageNet1k 分类数据集,在 ResNet_vd 以及 MobileNet 系列上的精度均有超过 3% 的绝对精度提升,具体指标如下图所示。
|
PaddleClas 融合已有的知识蒸馏方法 [2,3],提供了一种简单的半监督标签知识蒸馏方案(SSLD,Simple Semi-supervised Label Distillation),基于 ImageNet1k 分类数据集,在 ResNet_vd 以及 MobileNet 系列上的精度均有超过 3% 的绝对精度提升,具体指标如下图所示。
|
||||||
|
@ -27,6 +29,8 @@ PaddleClas 融合已有的知识蒸馏方法 [2,3],提供了一种简单的半
|
||||||
<img src="../../images/distillation/distillation_perform_s.jpg" width = "800" />
|
<img src="../../images/distillation/distillation_perform_s.jpg" width = "800" />
|
||||||
</div>
|
</div>
|
||||||
|
|
||||||
|
<a name="1.2"></a>
|
||||||
|
|
||||||
### 1.2 SSLD蒸馏策略
|
### 1.2 SSLD蒸馏策略
|
||||||
|
|
||||||
SSLD 的流程图如下图所示。
|
SSLD 的流程图如下图所示。
|
||||||
|
@ -72,6 +76,8 @@ SSLD 蒸馏方案的一大特色就是无需使用图像的真值标签,因此
|
||||||
|
|
||||||
<a name="1.3"></a>
|
<a name="1.3"></a>
|
||||||
|
|
||||||
|
## 1.3 SKL-UGI蒸馏策略
|
||||||
|
|
||||||
此外,在无标注数据选择的过程中,我们发现使用更加通用的数据,即使不需要严格的数据筛选过程,也可以帮助知识蒸馏任务获得稳定的精度提升,因而提出了SKL-UGI (Symmetrical-KL Unlabeled General Images distillation)知识蒸馏方案。
|
此外,在无标注数据选择的过程中,我们发现使用更加通用的数据,即使不需要严格的数据筛选过程,也可以帮助知识蒸馏任务获得稳定的精度提升,因而提出了SKL-UGI (Symmetrical-KL Unlabeled General Images distillation)知识蒸馏方案。
|
||||||
|
|
||||||
通用数据可以使用ImageNet数据或者与场景相似的数据集。更多关于SKL-UGI的应用,请参考:[超轻量图像分类方案PULC使用教程](../PULC/PULC_train.md)。
|
通用数据可以使用ImageNet数据或者与场景相似的数据集。更多关于SKL-UGI的应用,请参考:[超轻量图像分类方案PULC使用教程](../PULC/PULC_train.md)。
|
||||||
|
|
|
@ -175,11 +175,11 @@ IMN_MODEL_SERIES = {
|
||||||
]
|
]
|
||||||
}
|
}
|
||||||
|
|
||||||
PULC_MODEL_BASE_DOWNLOAD_URL = "https://paddleclas.bj.bcebos.com/models/PULC/{}_infer.tar"
|
PULC_MODEL_BASE_DOWNLOAD_URL = "https://paddleclas.bj.bcebos.com/models/PULC/inference/{}_infer.tar"
|
||||||
PULC_MODELS = [
|
PULC_MODELS = [
|
||||||
"person_exists", "person_attribute", "safety_helmet", "traffic_sign",
|
"car_exists", "language_classification", "person_attribute",
|
||||||
"vehicle_exists", "vehicle_attribute", "textline_orientation",
|
"person_exists", "safety_helmet", "text_image_orientation",
|
||||||
"text_image_orientation", "language_classification"
|
"textline_orientation", "traffic_sign", "vehicle_attribute"
|
||||||
]
|
]
|
||||||
|
|
||||||
|
|
||||||
|
|
|
@ -125,8 +125,8 @@ Infer:
|
||||||
PostProcess:
|
PostProcess:
|
||||||
name: ThreshOutput
|
name: ThreshOutput
|
||||||
threshold: 0.5
|
threshold: 0.5
|
||||||
label_0: nobody
|
label_0: no_car
|
||||||
label_1: someone
|
label_1: contains_car
|
||||||
|
|
||||||
Metric:
|
Metric:
|
||||||
Train:
|
Train:
|
||||||
|
|
|
@ -138,8 +138,8 @@ Infer:
|
||||||
PostProcess:
|
PostProcess:
|
||||||
name: ThreshOutput
|
name: ThreshOutput
|
||||||
threshold: 0.9
|
threshold: 0.9
|
||||||
label_0: nobody
|
label_0: no_car
|
||||||
label_1: someone
|
label_1: contains_car
|
||||||
|
|
||||||
Metric:
|
Metric:
|
||||||
Train:
|
Train:
|
||||||
|
|
|
@ -154,8 +154,8 @@ Infer:
|
||||||
PostProcess:
|
PostProcess:
|
||||||
name: ThreshOutput
|
name: ThreshOutput
|
||||||
threshold: 0.5
|
threshold: 0.5
|
||||||
label_0: nobody
|
label_0: no_car
|
||||||
label_1: someone
|
label_1: contains_car
|
||||||
|
|
||||||
Metric:
|
Metric:
|
||||||
Train:
|
Train:
|
||||||
|
|
|
@ -138,8 +138,8 @@ Infer:
|
||||||
PostProcess:
|
PostProcess:
|
||||||
name: ThreshOutput
|
name: ThreshOutput
|
||||||
threshold: 0.5
|
threshold: 0.5
|
||||||
label_0: nobody
|
label_0: no_car
|
||||||
label_1: someone
|
label_1: contains_car
|
||||||
|
|
||||||
Metric:
|
Metric:
|
||||||
Train:
|
Train:
|
||||||
|
|
|
@ -155,8 +155,8 @@ Infer:
|
||||||
PostProcess:
|
PostProcess:
|
||||||
name: ThreshOutput
|
name: ThreshOutput
|
||||||
threshold: 0.5
|
threshold: 0.5
|
||||||
label_0: nobody
|
label_0: no_car
|
||||||
label_1: someone
|
label_1: contains_car
|
||||||
|
|
||||||
Metric:
|
Metric:
|
||||||
Train:
|
Train:
|
||||||
|
|
|
@ -123,7 +123,7 @@ DataLoader:
|
||||||
use_shared_memory: True
|
use_shared_memory: True
|
||||||
|
|
||||||
Infer:
|
Infer:
|
||||||
infer_imgs: ./deploy/images/PULC/vehicle_attr/0002_c002_00030670_0.jpg
|
infer_imgs: ./deploy/images/PULC/vehicle_attribute/0002_c002_00030670_0.jpg
|
||||||
batch_size: 10
|
batch_size: 10
|
||||||
transforms:
|
transforms:
|
||||||
- DecodeImage:
|
- DecodeImage:
|
||||||
|
|
Loading…
Reference in New Issue