2020-04-10 00:45:02 +08:00
|
|
|
|
# 开始使用
|
|
|
|
|
---
|
2020-10-30 20:18:26 +08:00
|
|
|
|
请参考[安装指南](./install.md)配置运行环境,并根据[快速开始](./quick_start.md)文档准备flower102数据集,本章节下面所有的实验均以flower102数据集为例。
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
PaddleClas目前支持的训练/评估环境如下:
|
|
|
|
|
```shell
|
|
|
|
|
└── CPU/单卡GPU
|
|
|
|
|
├── Linux
|
|
|
|
|
└── Windows
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
└── 多卡GPU
|
|
|
|
|
└── Linux
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
## 1. 基于CPU/单卡GPU上的训练与评估
|
|
|
|
|
|
|
|
|
|
在基于CPU/单卡GPU上训练与评估,推荐使用`tools/train.py`与`tools/eval.py`脚本。关于Linux平台多卡GPU环境下的训练与评估,请参考[2. 基于Linux+GPU的模型训练与评估](#2)。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
<a name="1.1"></a>
|
2020-10-19 13:05:34 +08:00
|
|
|
|
### 1.1 模型训练
|
|
|
|
|
|
|
|
|
|
准备好配置文件之后,可以使用下面的方式启动训练。
|
|
|
|
|
|
|
|
|
|
```
|
2020-10-22 14:29:40 +08:00
|
|
|
|
python tools/train.py \
|
|
|
|
|
-c configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
|
|
|
|
|
-o pretrained_model="" \
|
2020-10-19 13:05:34 +08:00
|
|
|
|
-o use_gpu=True
|
|
|
|
|
```
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
其中,`-c`用于指定配置文件的路径,`-o`用于指定需要修改或者添加的参数,其中`-o pretrained_model=""`表示不使用预训练模型,`-o use_gpu=True`表示使用GPU进行训练。如果希望使用CPU进行训练,则需要将`use_gpu`设置为`False`。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
更详细的训练配置,也可以直接修改模型对应的配置文件。具体配置参数参考[配置文档](config.md)。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
运行上述命令,可以看到输出日志,示例如下:
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
* 如果在训练中使用了mixup或者cutmix的数据增广方式,那么日志中只会打印出loss(损失)、lr(学习率)以及该minibatch的训练时间。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
|
|
|
|
```
|
|
|
|
|
train step:890 loss: 6.8473 lr: 0.100000 elapse: 0.157s
|
|
|
|
|
```
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
* 如果训练过程中没有使用mixup或者cutmix的数据增广,那么除了loss(损失)、lr(学习率)以及该minibatch的训练时间之外,日志中也会打印出top-1与top-k(默认为5)的信息。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
|
|
|
|
```
|
|
|
|
|
epoch:0 train step:13 loss:7.9561 top1:0.0156 top5:0.1094 lr:0.100000 elapse:0.193s
|
|
|
|
|
```
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
训练期间也可以通过VisualDL实时观察loss变化,详见[VisualDL](https://github.com/PaddlePaddle/VisualDL)。
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
2020-10-19 13:05:34 +08:00
|
|
|
|
### 1.2 模型微调
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
根据自己的数据集路径设置好配置文件后,可以通过加载预训练模型的方式进行微调,如下所示。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
|
|
|
|
```
|
2020-10-22 14:29:40 +08:00
|
|
|
|
python tools/train.py \
|
|
|
|
|
-c configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
|
|
|
|
|
-o pretrained_model="./pretrained/MobileNetV3_large_x1_0_pretrained" \
|
|
|
|
|
-o use_gpu=True
|
2020-10-19 13:05:34 +08:00
|
|
|
|
```
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
其中`-o pretrained_model`用于设置加载预训练模型权重文件的地址,使用时需要换成自己的预训练模型权重文件的路径,也可以直接在配置文件中修改该路径。
|
|
|
|
|
|
|
|
|
|
我们也提供了大量基于`ImageNet-1k`数据集的预训练模型,模型列表及下载地址详见[模型库概览](../models/models_intro.md)。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
<a name="1.3"></a>
|
2020-10-19 13:05:34 +08:00
|
|
|
|
### 1.3 模型恢复训练
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
如果训练任务因为其他原因被终止,也可以加载断点权重文件,继续训练:
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
|
|
|
|
```
|
2020-10-22 14:29:40 +08:00
|
|
|
|
python tools/train.py \
|
|
|
|
|
-c configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
|
2020-10-30 20:18:26 +08:00
|
|
|
|
-o checkpoints="./output/MobileNetV3_large_x1_0/5/ppcls" \
|
2020-10-22 14:29:40 +08:00
|
|
|
|
-o last_epoch=5 \
|
|
|
|
|
-o use_gpu=True
|
2020-10-19 13:05:34 +08:00
|
|
|
|
```
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
其中配置文件不需要做任何修改,只需要在继续训练时设置`checkpoints`参数即可,表示加载的断点权重文件路径,使用该参数会同时加载保存的断点权重和学习率、优化器等信息。
|
|
|
|
|
|
|
|
|
|
**注意**:
|
2020-10-23 02:18:37 +08:00
|
|
|
|
* 参数`-o last_epoch=5`表示将上一次训练轮次数记为`5`,即本次训练轮次数从`6`开始计算,该值默认为-1,表示本次训练轮次数从`0`开始计算。
|
2020-10-22 14:29:40 +08:00
|
|
|
|
|
2020-10-30 20:18:26 +08:00
|
|
|
|
* `-o checkpoints`参数无需包含断点权重文件的后缀名,上述训练命令会在训练过程中生成如下所示的断点权重文件,若想从断点`5`继续训练,则`checkpoints`参数只需设置为`"./output/MobileNetV3_large_x1_0_gpupaddle/5/ppcls"`,PaddleClas会自动补充后缀名。
|
2020-10-22 14:29:40 +08:00
|
|
|
|
```shell
|
|
|
|
|
output/
|
|
|
|
|
└── MobileNetV3_large_x1_0
|
|
|
|
|
├── 0
|
|
|
|
|
│ ├── ppcls.pdopt
|
|
|
|
|
│ └── ppcls.pdparams
|
|
|
|
|
├── 1
|
|
|
|
|
│ ├── ppcls.pdopt
|
|
|
|
|
│ └── ppcls.pdparams
|
|
|
|
|
.
|
|
|
|
|
.
|
|
|
|
|
.
|
|
|
|
|
```
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
<a name="1.4"></a>
|
2020-10-19 13:05:34 +08:00
|
|
|
|
### 1.4 模型评估
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
可以通过以下命令进行模型评估。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
|
|
|
|
```bash
|
2020-10-22 14:29:40 +08:00
|
|
|
|
python tools/eval.py \
|
2020-11-01 10:58:04 +08:00
|
|
|
|
-c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
|
|
|
|
|
-o pretrained_model="./output/MobileNetV3_large_x1_0/best_model/ppcls"\
|
|
|
|
|
-o load_static_weights=False
|
2020-10-19 13:05:34 +08:00
|
|
|
|
```
|
|
|
|
|
|
2020-11-01 10:58:04 +08:00
|
|
|
|
上述命令将使用`./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml`作为配置文件,对上述训练得到的模型`./output/MobileNetV3_large_x1_0/best_model/ppcls`进行评估。你也可以通过更改配置文件中的参数来设置评估,也可以通过`-o`参数更新配置,如上所示。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
2020-11-01 10:58:04 +08:00
|
|
|
|
可配置的部分评估参数说明如下:
|
|
|
|
|
* `ARCHITECTURE.name`:模型名称
|
|
|
|
|
* `pretrained_model`:待评估的模型文件路径
|
|
|
|
|
* `load_static_weights`:待评估模型是否为静态图模型
|
|
|
|
|
|
|
|
|
|
**注意:** 如果模型为动态图模型,则在加载待评估模型时,需要指定模型文件的路径,但无需包含文件后缀名,PaddleClas会自动补齐`.pdparams`的后缀,如[1.3 模型恢复训练](#1.3)。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
<a name="2"></a>
|
2020-10-19 13:05:34 +08:00
|
|
|
|
## 2. 基于Linux+GPU的模型训练与评估
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
如果机器环境为Linux+GPU,那么推荐使用`paddle.distributed.launch`启动模型训练脚本(`tools/train.py`)、评估脚本(`tools/eval.py`),可以更方便地启动多卡训练与评估。
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
|
|
|
|
### 2.1 模型训练
|
2020-04-21 22:32:17 +08:00
|
|
|
|
|
2020-12-13 21:24:57 +08:00
|
|
|
|
参考如下方式启动模型训练,`paddle.distributed.launch`通过设置`gpus`指定GPU运行卡号:
|
2020-04-17 18:34:58 +08:00
|
|
|
|
|
2020-04-10 00:45:02 +08:00
|
|
|
|
```bash
|
|
|
|
|
# PaddleClas通过launch方式启动多卡多进程训练
|
2020-10-22 14:29:40 +08:00
|
|
|
|
|
|
|
|
|
export CUDA_VISIBLE_DEVICES=0,1,2,3
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
|
|
|
|
python -m paddle.distributed.launch \
|
2020-12-13 21:24:57 +08:00
|
|
|
|
--gpus="0,1,2,3" \
|
2020-04-11 02:04:24 +08:00
|
|
|
|
tools/train.py \
|
2020-10-22 14:29:40 +08:00
|
|
|
|
-c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml
|
2020-04-10 00:45:02 +08:00
|
|
|
|
```
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
其中,`-c`用于指定配置文件的路径,可通过配置文件修改相关训练配置信息,也可以通过添加`-o`参数来更新配置:
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
|
|
|
|
```bash
|
|
|
|
|
python -m paddle.distributed.launch \
|
2020-12-13 21:24:57 +08:00
|
|
|
|
--gpus="0,1,2,3" \
|
2020-04-11 02:04:24 +08:00
|
|
|
|
tools/train.py \
|
2020-10-22 14:29:40 +08:00
|
|
|
|
-c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
|
|
|
|
|
-o pretrained_model="" \
|
|
|
|
|
-o use_gpu=True
|
2020-04-10 00:45:02 +08:00
|
|
|
|
```
|
2020-10-22 14:29:40 +08:00
|
|
|
|
`-o`用于指定需要修改或者添加的参数,其中`-o pretrained_model=""`表示不使用预训练模型,`-o use_gpu=True`表示使用GPU进行训练。
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
输出日志信息的格式同上,详见[1.1 模型训练](#1.1)。
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
|
|
|
|
### 2.2 模型微调
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
根据自己的数据集配置好配置文件之后,可以加载预训练模型进行微调,如下所示。
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
|
|
|
|
```
|
2020-10-22 14:29:40 +08:00
|
|
|
|
export CUDA_VISIBLE_DEVICES=0,1,2,3
|
|
|
|
|
|
2020-10-19 13:05:34 +08:00
|
|
|
|
python -m paddle.distributed.launch \
|
2020-12-13 21:24:57 +08:00
|
|
|
|
--gpus="0,1,2,3" \
|
2020-10-19 13:05:34 +08:00
|
|
|
|
tools/train.py \
|
2020-10-22 14:29:40 +08:00
|
|
|
|
-c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
|
2020-11-01 10:58:04 +08:00
|
|
|
|
-o pretrained_model="./pretrained/MobileNetV3_large_x1_0_pretrained"
|
2020-04-10 00:45:02 +08:00
|
|
|
|
```
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
其中`pretrained_model`用于设置加载预训练权重文件的路径,使用时需要换成自己的预训练模型权重文件路径,也可以直接在配置文件中修改该路径。
|
2020-04-19 16:10:23 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
[30分钟玩转PaddleClas教程](./quick_start.md)中包含大量模型微调的示例,可以参考该章节在特定的数据集上进行模型微调。
|
2020-06-02 20:59:30 +08:00
|
|
|
|
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
2020-10-24 01:14:10 +08:00
|
|
|
|
<a name="model_resume"></a>
|
2020-10-19 13:05:34 +08:00
|
|
|
|
### 2.3 模型恢复训练
|
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
如果训练任务因为其他原因被终止,也可以加载断点权重文件继续训练。
|
2020-06-02 20:59:30 +08:00
|
|
|
|
|
|
|
|
|
```
|
2020-10-22 14:29:40 +08:00
|
|
|
|
export CUDA_VISIBLE_DEVICES=0,1,2,3
|
|
|
|
|
|
2020-10-19 13:05:34 +08:00
|
|
|
|
python -m paddle.distributed.launch \
|
2020-12-13 21:24:57 +08:00
|
|
|
|
--gpus="0,1,2,3" \
|
2020-10-19 13:05:34 +08:00
|
|
|
|
tools/train.py \
|
2020-10-22 14:29:40 +08:00
|
|
|
|
-c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
|
2020-11-01 10:58:04 +08:00
|
|
|
|
-o checkpoints="./output/MobileNetV3_large_x1_0/5/ppcls" \
|
2020-10-22 14:29:40 +08:00
|
|
|
|
-o last_epoch=5 \
|
|
|
|
|
-o use_gpu=True
|
2020-10-19 13:05:34 +08:00
|
|
|
|
```
|
2020-06-02 20:59:30 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
其中配置文件不需要做任何修改,只需要在训练时设置`checkpoints`参数与`last_epoch`参数即可,该参数表示加载的断点权重文件路径,使用该参数会同时加载保存的模型参数权重和学习率、优化器等信息,详见[1.3 模型恢复训练](#1.3)。
|
2020-04-19 16:10:23 +08:00
|
|
|
|
|
|
|
|
|
|
2020-10-19 13:05:34 +08:00
|
|
|
|
### 2.4 模型评估
|
2020-04-19 16:10:23 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
可以通过以下命令进行模型评估。
|
2020-04-10 00:45:02 +08:00
|
|
|
|
|
|
|
|
|
```bash
|
2020-11-01 10:58:04 +08:00
|
|
|
|
python tools/eval.py \
|
|
|
|
|
-c ./configs/quick_start/MobileNetV3_large_x1_0_finetune.yaml \
|
|
|
|
|
-o pretrained_model="./output/MobileNetV3_large_x1_0/best_model/ppcls"\
|
|
|
|
|
-o load_static_weights=False
|
2020-04-10 00:45:02 +08:00
|
|
|
|
```
|
2020-10-19 13:05:34 +08:00
|
|
|
|
|
2020-10-22 14:29:40 +08:00
|
|
|
|
参数说明详见[1.4 模型评估](#1.4)。
|
2020-04-10 17:19:21 +08:00
|
|
|
|
|
2020-04-23 16:52:09 +08:00
|
|
|
|
|
2020-10-24 01:14:10 +08:00
|
|
|
|
<a name="model_infer"></a>
|
2020-10-23 02:18:37 +08:00
|
|
|
|
## 3. 使用预训练模型进行模型预测
|
2020-04-10 17:19:21 +08:00
|
|
|
|
|
2020-10-23 02:18:37 +08:00
|
|
|
|
模型训练完成之后,可以加载训练得到的预训练模型,进行模型预测。在模型库的 `tools/infer/infer.py` 中提供了完整的示例,只需执行下述命令即可完成模型预测:
|
|
|
|
|
|
|
|
|
|
```python
|
|
|
|
|
python tools/infer/infer.py \
|
2020-11-01 10:58:04 +08:00
|
|
|
|
-i 待预测的图片文件路径 \
|
2020-11-10 17:19:50 +08:00
|
|
|
|
--model MobileNetV3_large_x1_0 \
|
2020-11-01 10:58:04 +08:00
|
|
|
|
--pretrained_model "./output/MobileNetV3_large_x1_0/best_model/ppcls" \
|
|
|
|
|
--use_gpu True \
|
|
|
|
|
--load_static_weights False
|
2020-10-23 02:18:37 +08:00
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
参数说明:
|
|
|
|
|
+ `image_file`(简写 i):待预测的图片文件路径或者批量预测时的图片文件夹,如 `./test.jpeg`
|
2020-11-10 17:19:50 +08:00
|
|
|
|
+ `model`:模型名称,如 `MobileNetV3_large_x1_0`
|
2020-11-01 10:58:04 +08:00
|
|
|
|
+ `pretrained_model`:模型权重文件路径,如 `./output/MobileNetV3_large_x1_0/best_model/ppcls`
|
2020-10-23 02:18:37 +08:00
|
|
|
|
+ `use_gpu` : 是否开启GPU训练,默认值:`True`
|
2020-11-01 10:58:04 +08:00
|
|
|
|
+ `load_static_weights` : 模型权重文件是否为静态图训练得到的,默认值:`False`
|
2020-10-24 01:14:10 +08:00
|
|
|
|
+ `pre_label_image` : 是否对图像数据进行预标注,默认值:`False`
|
|
|
|
|
+ `pre_label_out_idr` : 预标注图像数据的输出文件夹,当`pre_label_image=True`时,会在该文件夹下面生成很多个子文件夹,每个文件夹名称为类别id,其中存储模型预测属于该类别的所有图像。
|
2020-10-23 02:18:37 +08:00
|
|
|
|
|
|
|
|
|
|
2020-10-24 01:14:10 +08:00
|
|
|
|
<a name="model_inference"></a>
|
2021-01-07 10:52:46 +08:00
|
|
|
|
## 4. 使用inference模型进行模型推理
|
2020-10-23 02:18:37 +08:00
|
|
|
|
|
|
|
|
|
通过导出inference模型,PaddlePaddle支持使用预测引擎进行预测推理。接下来介绍如何用预测引擎进行推理:
|
2020-04-19 22:10:07 +08:00
|
|
|
|
首先,对训练好的模型进行转换:
|
2020-04-21 22:32:17 +08:00
|
|
|
|
|
2020-04-10 19:56:49 +08:00
|
|
|
|
```bash
|
|
|
|
|
python tools/export_model.py \
|
2020-11-01 10:58:04 +08:00
|
|
|
|
--model MobileNetV3_large_x1_0 \
|
|
|
|
|
--pretrained_model ./output/MobileNetV3_large_x1_0/best_model/ppcls \
|
2020-12-30 14:28:06 +08:00
|
|
|
|
--output_path ./inference
|
2020-10-22 14:29:40 +08:00
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
其中,参数`--model`用于指定模型名称,`--pretrained_model`用于指定模型文件路径,该路径仍无需包含模型文件后缀名(如[1.3 模型恢复训练](#1.3)),`--output_path`用于指定转换后模型的存储路径。
|
2020-04-10 17:19:21 +08:00
|
|
|
|
|
2020-10-30 00:20:48 +08:00
|
|
|
|
**注意**:
|
2020-12-30 14:28:06 +08:00
|
|
|
|
1. `--output_path`表示输出的inference模型文件夹路径,若`--output_path=./inference`,则会在`inference`文件夹下生成`inference.pdiparams`、`inference.pdmodel`和`inference.pdiparams.info`文件。
|
2020-10-30 00:20:48 +08:00
|
|
|
|
2. 文件`export_model.py:line53`中,`shape`参数为模型输入图像的`shape`,默认为`224*224`,请根据实际情况修改,如下所示:
|
2020-10-22 14:29:40 +08:00
|
|
|
|
```python
|
|
|
|
|
50 # Please modify the 'shape' according to actual needs
|
|
|
|
|
51 @to_static(input_spec=[
|
|
|
|
|
52 paddle.static.InputSpec(
|
|
|
|
|
53 shape=[None, 3, 224, 224], dtype='float32')
|
|
|
|
|
54 ])
|
2020-04-10 19:56:49 +08:00
|
|
|
|
```
|
2020-10-22 14:29:40 +08:00
|
|
|
|
|
2020-12-30 14:28:06 +08:00
|
|
|
|
上述命令将生成模型结构文件(`inference.pdmodel`)和模型权重文件(`inference.pdiparams`),然后可以使用预测引擎进行推理:
|
2020-10-22 14:29:40 +08:00
|
|
|
|
|
2020-04-10 17:19:21 +08:00
|
|
|
|
```bash
|
2020-04-11 02:04:24 +08:00
|
|
|
|
python tools/infer/predict.py \
|
2020-11-01 10:58:04 +08:00
|
|
|
|
--image_file 图片路径 \
|
2020-12-30 14:28:06 +08:00
|
|
|
|
--model_file "./inference/inference.pdmodel" \
|
|
|
|
|
--params_file "./inference/inference.pdiparams" \
|
2020-10-22 14:29:40 +08:00
|
|
|
|
--use_gpu=True \
|
2020-10-19 13:05:34 +08:00
|
|
|
|
--use_tensorrt=False
|
2020-04-10 17:19:21 +08:00
|
|
|
|
```
|
2020-10-22 14:29:40 +08:00
|
|
|
|
其中:
|
2020-11-01 10:58:04 +08:00
|
|
|
|
+ `image_file`:待预测的图片文件路径,如 `./test.jpeg`
|
2020-12-30 14:28:06 +08:00
|
|
|
|
+ `model_file`:模型结构文件路径,如 `./inference/inference.pdmodel`
|
|
|
|
|
+ `params_file`:模型权重文件路径,如 `./inference/inference.pdiparams`
|
2020-10-22 14:29:40 +08:00
|
|
|
|
+ `use_tensorrt`:是否使用 TesorRT 预测引擎,默认值:`True`
|
2020-11-16 19:44:17 +08:00
|
|
|
|
+ `use_gpu`:是否使用 GPU 预测,默认值:`True`
|
|
|
|
|
+ `enable_mkldnn`:是否启用`MKL-DNN`加速,默认为`False`。注意`enable_mkldnn`与`use_gpu`同时为`True`时,将忽略`enable_mkldnn`,而使用GPU运行。
|
2020-10-22 14:29:40 +08:00
|
|
|
|
|
2020-10-23 02:18:37 +08:00
|
|
|
|
* 如果你希望评测模型速度,建议使用该脚本(`tools/infer/predict.py`),同时开启TensorRT加速预测。
|