PaddleClas/docs/zh_CN/tutorials/getting_started.md

262 lines
10 KiB
Markdown
Raw Normal View History

2020-04-10 00:45:02 +08:00
# 开始使用
---
2021-04-23 13:00:46 +08:00
请参考[安装指南](./install.md)配置运行环境,并根据[快速开始](./quick_start_new_user.md)文档准备flower102数据集本章节下面所有的实验均以flower102数据集为例。
2020-04-10 00:45:02 +08:00
2020-10-22 14:29:40 +08:00
PaddleClas目前支持的训练/评估环境如下:
```shell
└── CPU/单卡GPU
   ├── Linux
   └── Windows
2020-04-10 00:45:02 +08:00
2020-10-22 14:29:40 +08:00
└── 多卡GPU
└── Linux
```
## 1. 基于CPU/单卡GPU上的训练与评估
在基于CPU/单卡GPU上训练与评估推荐使用`tools/train.py`与`tools/eval.py`脚本。关于Linux平台多卡GPU环境下的训练与评估请参考[2. 基于Linux+GPU的模型训练与评估](#2)。
2020-10-19 13:05:34 +08:00
2020-10-22 14:29:40 +08:00
<a name="1.1"></a>
2020-10-19 13:05:34 +08:00
### 1.1 模型训练
准备好配置文件之后,可以使用下面的方式启动训练。
```
2021-06-16 15:16:06 +08:00
python3 tools/train.py \
-c ./ppcls/configs/quick_start/MobileNetV3_large_x1_0.yaml \
-o Arch.pretrained=False \
-o Global.device=gpu
2020-10-19 13:05:34 +08:00
```
2021-06-16 15:16:06 +08:00
其中,`-c`用于指定配置文件的路径,`-o`用于指定需要修改或者添加的参数,其中`-o Arch.pretrained=False`表示不使用预训练模型,`-o Global.device=gpu`表示使用GPU进行训练。如果希望使用CPU进行训练则需要将`Global.device`设置为`cpu`。
2020-10-19 13:05:34 +08:00
2021-08-26 11:37:20 +08:00
更详细的训练配置,也可以直接修改模型对应的配置文件。具体配置参数参考[配置文档](config_description.md)。
2020-10-19 13:05:34 +08:00
2020-10-22 14:29:40 +08:00
运行上述命令,可以看到输出日志,示例如下:
2020-10-19 13:05:34 +08:00
2021-04-15 11:49:34 +08:00
* 如果在训练中使用了mixup或者cutmix的数据增广方式那么日志中将不会打印top-1与top-k默认为5信息
2020-10-19 13:05:34 +08:00
```
2021-04-15 11:49:34 +08:00
...
2021-06-16 15:16:06 +08:00
[Train][Epoch 3/20][Avg]CELoss: 6.46287, loss: 6.46287
2021-04-15 11:49:34 +08:00
...
2021-06-16 15:16:06 +08:00
[Eval][Epoch 3][Avg]CELoss: 5.94309, loss: 5.94309, top1: 0.01961, top5: 0.07941
2021-04-15 11:49:34 +08:00
...
2020-10-19 13:05:34 +08:00
```
2021-04-15 11:49:34 +08:00
* 如果训练过程中没有使用mixup或者cutmix的数据增广那么除了上述信息外日志中也会打印出top-1与top-k(默认为5)的信息:
2020-10-19 13:05:34 +08:00
```
2021-04-15 11:49:34 +08:00
...
2021-06-16 15:16:06 +08:00
[Train][Epoch 3/20][Avg]CELoss: 6.12570, loss: 6.12570, top1: 0.01765, top5: 0.06961
2021-04-15 11:49:34 +08:00
...
2021-06-16 15:16:06 +08:00
[Eval][Epoch 3][Avg]CELoss: 5.40727, loss: 5.40727, top1: 0.07549, top5: 0.20980
2021-04-15 11:49:34 +08:00
...
2020-10-19 13:05:34 +08:00
```
训练期间也可以通过VisualDL实时观察loss变化详见[VisualDL](../extension/VisualDL.md)。
2020-04-10 00:45:02 +08:00
2020-10-19 13:05:34 +08:00
### 1.2 模型微调
2020-04-10 00:45:02 +08:00
2020-10-22 14:29:40 +08:00
根据自己的数据集路径设置好配置文件后,可以通过加载预训练模型的方式进行微调,如下所示。
2020-10-19 13:05:34 +08:00
```
2021-06-16 15:16:06 +08:00
python3 tools/train.py \
-c ./ppcls/configs/quick_start/MobileNetV3_large_x1_0.yaml \
-o Arch.pretrained=True \
-o Global.device=gpu
2020-10-19 13:05:34 +08:00
```
2021-06-16 15:16:06 +08:00
其中`Arch.pretrained`设置为`True`表示加载ImageNet的预训练模型此外`Arch.pretrained`也可以指定具体的模型权重文件的地址,使用时需要换成自己的预训练模型权重文件的路径。
2020-10-22 14:29:40 +08:00
我们也提供了大量基于`ImageNet-1k`数据集的预训练模型,模型列表及下载地址详见[模型库概览](../models/models_intro.md)。
2020-10-19 13:05:34 +08:00
2020-10-22 14:29:40 +08:00
<a name="1.3"></a>
2020-10-19 13:05:34 +08:00
### 1.3 模型恢复训练
2020-10-22 14:29:40 +08:00
如果训练任务因为其他原因被终止,也可以加载断点权重文件,继续训练:
2020-10-19 13:05:34 +08:00
```
2021-06-16 15:16:06 +08:00
python3 tools/train.py \
-c ./ppcls/configs/quick_start/MobileNetV3_large_x1_0.yaml \
-o Global.checkpoints="./output/MobileNetV3_large_x1_0/epoch_5" \
-o Global.device=gpu
2020-10-19 13:05:34 +08:00
```
2021-06-18 15:08:41 +08:00
其中配置文件不需要做任何修改,只需要在继续训练时设置`Global.checkpoints`参数即可,表示加载的断点权重文件路径,使用该参数会同时加载保存的断点权重和学习率、优化器等信息。
2020-10-22 14:29:40 +08:00
**注意**
2021-06-16 15:16:06 +08:00
2021-06-18 15:08:41 +08:00
* `-o Global.checkpoints`参数无需包含断点权重文件的后缀名,上述训练命令会在训练过程中生成如下所示的断点权重文件,若想从断点`5`继续训练,则`Global.checkpoints`参数只需设置为`"../output/MobileNetV3_large_x1_0/epoch_5"`PaddleClas会自动补充后缀名。output目录下的文件结构如下所示
2020-10-22 14:29:40 +08:00
```shell
2021-06-16 15:16:06 +08:00
output
├── MobileNetV3_large_x1_0
│   ├── best_model.pdopt
│   ├── best_model.pdparams
│   ├── best_model.pdstates
│   ├── epoch_1.pdopt
│   ├── epoch_1.pdparams
│   ├── epoch_1.pdstates
2020-10-22 14:29:40 +08:00
.
.
.
```
2020-10-19 13:05:34 +08:00
2020-10-22 14:29:40 +08:00
<a name="1.4"></a>
2020-10-19 13:05:34 +08:00
### 1.4 模型评估
2020-10-22 14:29:40 +08:00
可以通过以下命令进行模型评估。
2020-10-19 13:05:34 +08:00
```bash
2021-06-16 15:16:06 +08:00
python3 tools/eval.py \
-c ./ppcls/configs/quick_start/MobileNetV3_large_x1_0.yaml \
-o Global.pretrained_model=./output/MobileNetV3_large_x1_0/best_model
2020-10-19 13:05:34 +08:00
```
2021-06-16 15:16:06 +08:00
上述命令将使用`./configs/quick_start/MobileNetV3_large_x1_0.yaml`作为配置文件,对上述训练得到的模型`./output/MobileNetV3_large_x1_0/best_model`进行评估。你也可以通过更改配置文件中的参数来设置评估,也可以通过`-o`参数更新配置,如上所示。
2020-10-19 13:05:34 +08:00
可配置的部分评估参数说明如下:
2021-06-16 15:16:06 +08:00
* `Arch.name`:模型名称
2021-06-18 15:08:41 +08:00
* `Global.pretrained_model`:待评估的模型预训练模型文件路径
2021-06-16 15:16:06 +08:00
**注意:** 在加载待评估模型时需要指定模型文件的路径但无需包含文件后缀名PaddleClas会自动补齐`.pdparams`的后缀,如[1.3 模型恢复训练](#1.3)。
2020-10-19 13:05:34 +08:00
2020-10-22 14:29:40 +08:00
<a name="2"></a>
2020-10-19 13:05:34 +08:00
## 2. 基于Linux+GPU的模型训练与评估
2020-10-22 14:29:40 +08:00
如果机器环境为Linux+GPU那么推荐使用`paddle.distributed.launch`启动模型训练脚本(`tools/train.py`)、评估脚本(`tools/eval.py`),可以更方便地启动多卡训练与评估。
2020-04-10 00:45:02 +08:00
### 2.1 模型训练
2020-04-21 22:32:17 +08:00
2020-12-13 21:24:57 +08:00
参考如下方式启动模型训练,`paddle.distributed.launch`通过设置`gpus`指定GPU运行卡号
2020-04-17 18:34:58 +08:00
2020-04-10 00:45:02 +08:00
```bash
# PaddleClas通过launch方式启动多卡多进程训练
2020-10-22 14:29:40 +08:00
export CUDA_VISIBLE_DEVICES=0,1,2,3
2020-04-10 00:45:02 +08:00
2021-06-16 15:16:06 +08:00
python3 -m paddle.distributed.launch \
2020-12-13 21:24:57 +08:00
--gpus="0,1,2,3" \
2020-04-11 02:04:24 +08:00
tools/train.py \
2021-06-16 15:16:06 +08:00
-c ./ppcls/configs/quick_start/MobileNetV3_large_x1_0.yaml
2020-04-10 00:45:02 +08:00
```
2020-10-22 14:29:40 +08:00
输出日志信息的格式同上,详见[1.1 模型训练](#1.1)。
2020-10-19 13:05:34 +08:00
### 2.2 模型微调
2020-10-22 14:29:40 +08:00
根据自己的数据集配置好配置文件之后,可以加载预训练模型进行微调,如下所示。
2020-04-10 00:45:02 +08:00
```
2020-10-22 14:29:40 +08:00
export CUDA_VISIBLE_DEVICES=0,1,2,3
2021-06-16 15:16:06 +08:00
python3 -m paddle.distributed.launch \
2020-12-13 21:24:57 +08:00
--gpus="0,1,2,3" \
2020-10-19 13:05:34 +08:00
tools/train.py \
2021-06-16 15:16:06 +08:00
-c ./ppcls/configs/quick_start/MobileNetV3_large_x1_0.yaml \
-o Arch.pretrained=True
2020-04-10 00:45:02 +08:00
```
2021-06-16 15:16:06 +08:00
其中`Arch.pretrained`为`True`或`False`,当然也可以设置加载预训练权重文件的路径,使用时需要换成自己的预训练模型权重文件路径,也可以直接在配置文件中修改该路径。
2020-04-19 16:10:23 +08:00
2021-04-23 13:00:46 +08:00
30分钟玩转PaddleClas[尝鲜版](./quick_start_new_user.md)与[进阶版](./quick_start_professional.md)中包含大量模型微调的示例,可以参考该章节在特定的数据集上进行模型微调。
2020-06-02 20:59:30 +08:00
2020-10-19 13:05:34 +08:00
<a name="model_resume"></a>
2020-10-19 13:05:34 +08:00
### 2.3 模型恢复训练
2020-10-22 14:29:40 +08:00
如果训练任务因为其他原因被终止,也可以加载断点权重文件继续训练。
2020-06-02 20:59:30 +08:00
```
2020-10-22 14:29:40 +08:00
export CUDA_VISIBLE_DEVICES=0,1,2,3
2021-06-16 15:16:06 +08:00
python3 -m paddle.distributed.launch \
2020-12-13 21:24:57 +08:00
--gpus="0,1,2,3" \
2020-10-19 13:05:34 +08:00
tools/train.py \
2021-06-16 15:16:06 +08:00
-c ./ppcls/configs/quick_start/MobileNetV3_large_x1_0.yaml \
-o Global.checkpoints="./output/MobileNetV3_large_x1_0/epoch_5" \
-o Global.device=gpu
2020-10-19 13:05:34 +08:00
```
2020-06-02 20:59:30 +08:00
2021-06-18 15:08:41 +08:00
其中配置文件不需要做任何修改,只需要在训练时设置`Global.checkpoints`参数即可,该参数表示加载的断点权重文件路径,使用该参数会同时加载保存的模型参数权重和学习率、优化器等信息,详见[1.3 模型恢复训练](#1.3)。
2020-04-19 16:10:23 +08:00
2020-10-19 13:05:34 +08:00
### 2.4 模型评估
2020-04-19 16:10:23 +08:00
2020-10-22 14:29:40 +08:00
可以通过以下命令进行模型评估。
2020-04-10 00:45:02 +08:00
```bash
2021-06-16 15:16:06 +08:00
export CUDA_VISIBLE_DEVICES=0,1,2,3
python3 -m paddle.distributed.launch \
tools/eval.py \
-c ./ppcls/configs/quick_start/MobileNetV3_large_x1_0.yaml \
-o Global.pretrained_model=./output/MobileNetV3_large_x1_0/best_model
2020-04-10 00:45:02 +08:00
```
2020-10-19 13:05:34 +08:00
2020-10-22 14:29:40 +08:00
参数说明详见[1.4 模型评估](#1.4)。
2020-04-10 17:19:21 +08:00
2020-04-23 16:52:09 +08:00
<a name="model_infer"></a>
2020-10-23 02:18:37 +08:00
## 3. 使用预训练模型进行模型预测
2020-04-10 17:19:21 +08:00
2020-10-23 02:18:37 +08:00
模型训练完成之后,可以加载训练得到的预训练模型,进行模型预测。在模型库的 `tools/infer/infer.py` 中提供了完整的示例,只需执行下述命令即可完成模型预测:
```python
2021-06-16 15:16:06 +08:00
python3 tools/infer.py \
-c ./ppcls/configs/quick_start/MobileNetV3_large_x1_0.yaml \
-o Infer.infer_imgs=dataset/flowers102/jpg/image_00001.jpg \
-o Global.pretrained_model=./output/MobileNetV3_large_x1_0/best_model
2020-10-23 02:18:37 +08:00
```
参数说明:
2021-06-16 15:16:06 +08:00
+ `Infer.infer_imgs`:待预测的图片文件路径或者批量预测时的图片文件夹。
+ `Global.pretrained_model`:模型权重文件路径,如 `./output/MobileNetV3_large_x1_0/best_model`
2020-10-23 02:18:37 +08:00
<a name="model_inference"></a>
2021-01-07 10:52:46 +08:00
## 4. 使用inference模型进行模型推理
2020-10-23 02:18:37 +08:00
通过导出inference模型PaddlePaddle支持使用预测引擎进行预测推理。接下来介绍如何用预测引擎进行推理
2020-04-19 22:10:07 +08:00
首先,对训练好的模型进行转换:
2020-04-21 22:32:17 +08:00
2020-04-10 19:56:49 +08:00
```bash
2021-06-16 15:16:06 +08:00
python3 tools/export_model.py \
-c ./ppcls/configs/quick_start/MobileNetV3_large_x1_0.yaml \
-o Global.pretrained_model=output/MobileNetV3_large_x1_0/best_model
2020-10-22 14:29:40 +08:00
```
2020-04-10 17:19:21 +08:00
2021-06-16 15:16:06 +08:00
其中,`Global.pretrained_model`用于指定模型文件路径,该路径仍无需包含模型文件后缀名(如[1.3 模型恢复训练](#1.3))。
上述命令将生成模型结构文件(`inference.pdmodel`)和模型权重文件(`inference.pdiparams`),然后可以使用预测引擎进行推理:
2020-10-22 14:29:40 +08:00
2021-06-16 15:16:06 +08:00
进入deploy目录下
2020-04-10 17:19:21 +08:00
```bash
2021-06-16 15:16:06 +08:00
cd deploy
2020-04-10 17:19:21 +08:00
```
2021-06-16 15:16:06 +08:00
执行命令进行预测由于默认class_id_map_file是ImageNet数据集的映射文件所以此处需要置None。
2021-06-16 15:16:06 +08:00
```bash
python3 python/predict_cls.py \
-c configs/inference_cls.yaml \
-o Global.infer_imgs=../dataset/flowers102/jpg/image_00001.jpg \
-o Global.inference_model_dir=../inference/ \
2021-08-10 13:20:14 +08:00
-o PostProcess.Topk.class_id_map_file=None
2020-10-22 14:29:40 +08:00
2021-06-16 15:16:06 +08:00
其中:
+ `Global.infer_imgs`:待预测的图片文件路径。
+ `Global.inference_model_dir`inference模型结构文件路径`../inference/inference.pdmodel`
+ `Global.use_tensorrt`:是否使用 TesorRT 预测引擎,默认值:`False`
+ `Global.use_gpu`:是否使用 GPU 预测,默认值:`True`
+ `Global.enable_mkldnn`:是否启用`MKL-DNN`加速,默认为`False`。注意`enable_mkldnn`与`use_gpu`同时为`True`时,将忽略`enable_mkldnn`而使用GPU运行。
+ `Global.use_fp16`:是否启用`FP16`,默认为`False`。
**注意**: 如果使用`Transformer`系列模型,如`DeiT_***_384`, `ViT_***_384`等,请注意模型的输入数据尺寸,需要设置参数`resize_short=384`, `resize=384`
2021-06-16 15:16:06 +08:00
* 如果你希望提升评测模型速度使用gpu评测时建议开启TensorRT加速预测使用cpu评测时建议开启MKL-DNN加速预测。