PaddleOCR/deploy/slim/quantization
baiyfbupt 2c6f0b0d55 add slim quantization 2020-09-15 20:17:23 +08:00
..
README.md add slim quantization 2020-09-15 20:17:23 +08:00
export_model.py add slim quantization 2020-09-15 20:17:23 +08:00
quant.py add slim quantization 2020-09-15 20:17:23 +08:00

README.md

运行示例前请先安装1.2.0或更高版本PaddleSlim

模型量化压缩教程

概述

该示例使用PaddleSlim提供的量化压缩API对检测模型进行压缩。 在阅读该示例前,建议您先了解以下内容:

安装PaddleSlim

可按照PaddleSlim使用文档中的步骤安装PaddleSlim。

量化训练

进入PaddleOCR根目录通过以下命令对模型进行量化

python deploy/slim/quantization/quant.py -c configs/det/det_mv3_db.yml -o Global.pretrain_weights=det_mv3_db/best_accuracy Global.save_model_dir=./output/quant_model

评估并导出

在得到量化训练保存的模型后我们可以将其导出为inference_model用于预测部署

python deploy/slim/quantization/export_model.py -c configs/det/det_mv3_db.yml -o Global.checkpoints=output/quant_model/best_accuracy Global.save_model_dir=./output/quant_model