mmdeploy/README_zh-CN.md at 7d367d457511815697ffcfbddf2c4118960198f5

mirror of https://github.com/open-mmlab/mmdeploy.git synced 2025-01-14 08:09:43 +08:00

feat(tools/deploy.py): support ncnn quantization (#476 )

* feat(tools): add onnx2ncnn_quant_table

* feat(tools): add quantization image dataset

* feat(tools): add image dataset

* feat(tools/deploy.py): support quant

* fix(CI): lint

* fix(CI): format

* docs(zh_cn): add quantization usage

* docs(zh_cn): add benchmark

* feat(tools): add onnx2ncnn_quant_table

* docs(zh_cn): add more test result

* CI(github): add quant script

* CI(.github/scripts): add test quant

* fix(CI): remove pushd and popd

* feat(CI): debug

* fix(CI): path error

* fix(CI): fix path

* fix(CI): install wget

* fix(CI): review advices

* improvement(mmdeploy): review advice

* fix(tools): rename to onnx2ncnn_quant_table.py

* improvement(tools): rename file

* improvement(test): remove useless

* fix(tools/quant_image_dataset): remove loadFile in test.pipeline

* docs(quantization.md): update description

* fix(CI): protobuf version

* fix(CI): pip install

* docs(quantization): review advice

* fix(CI): revert mmcv version

* fix(CI): udpate pb version

* fix(CI): update

2022-05-26 19:53:56 +08:00

7.2 KiB

Raw Blame History

OpenMMLab 官网 ^HOT OpenMMLab 开放平台 ^{TRY IT OUT}

介绍

English | 简体中文

MMDeploy 是 OpenMMLab 模型部署工具箱，为各算法库提供统一的部署体验。基于 MMDeploy，开发者可以轻松从训练 repo 生成指定硬件所需 SDK，省去大量适配时间。

架构简析

特性简介

支持超多 OpenMMLab 算法库

mmcls
mmdet
mmdet3d
mmedit
mmocr
mmpose
mmseg
支持列表

支持多种推理后端

ONNX Runtime	TensorRT	ppl.nn	ncnn	OpenVINO	more
✔️	✔️	✔️	✔️	✔️	benchmark

SDK 可高度定制化

Transform 数据预处理
Net 推理
Module 后处理

开源许可证

该项目采用 Apache 2.0 开源许可证。

快速上手

新人解说

基准与模型库

基准和支持的模型列表可以在基准和模型列表中获得。

贡献指南

我们感谢所有的贡献者为改进和提升 MMDeploy 所作出的努力。请参考贡献指南来了解参与项目贡献的相关指引。

致谢

OpenPPL: 高性能推理框架底层库
OpenVINO: AI 推理优化和部署框架
ncnn: 为手机端极致优化的高性能神经网络前向计算框架

引用

如果您在研究中使用了本项目的代码或者性能基准，请参考如下 bibtex 引用 MMDeploy:

@misc{=mmdeploy,
    title={OpenMMLab's Model Deployment Toolbox.},
    author={MMDeploy Contributors},
    howpublished = {\url{https://github.com/open-mmlab/mmdeploy}},
    year={2021}
}

OpenMMLab 的其他项目

MMCV: OpenMMLab 计算机视觉基础库
MIM: MIM 是 OpenMMlab 项目、算法、模型的统一入口
MMClassification: OpenMMLab 图像分类工具箱
MMDetection: OpenMMLab 目标检测工具箱
MMDetection3D: OpenMMLab 新一代通用 3D 目标检测平台
MMRotate: OpenMMLab 旋转框检测工具箱与测试基准
MMSegmentation: OpenMMLab 语义分割工具箱
MMOCR: OpenMMLab 全流程文字检测识别理解工具包
MMPose: OpenMMLab 姿态估计工具箱
MMHuman3D: OpenMMLab 人体参数化模型工具箱与测试基准
MMSelfSup: OpenMMLab 自监督学习工具箱与测试基准
MMRazor: OpenMMLab 模型压缩工具箱与测试基准
MMFewShot: OpenMMLab 少样本学习工具箱与测试基准
MMAction2: OpenMMLab 新一代视频理解工具箱
MMTracking: OpenMMLab 一体化视频目标感知平台
MMFlow: OpenMMLab 光流估计工具箱与测试基准
MMEditing: OpenMMLab 图像视频编辑工具箱
MMGeneration: OpenMMLab 图片视频生成模型工具箱
MMDeploy: OpenMMLab 模型部署框架

欢迎加入 OpenMMLab 社区

扫描下方的二维码可关注 OpenMMLab 团队的知乎官方账号，加入 OpenMMLab 团队的官方交流 QQ 群

我们会在 OpenMMLab 社区为大家

📢 分享 AI 框架的前沿核心技术
💻 解读 PyTorch 常用模块源码
📰 发布 OpenMMLab 的相关新闻
🚀 介绍 OpenMMLab 开发的前沿算法
🏃 获取更高效的问题答疑和意见反馈
🔥 提供与各行各业开发者充分交流的平台

干货满满 📘，等您来撩 💗，OpenMMLab 社区期待您的加入 👬

7.2 KiB Raw Blame History Unescape Escape

介绍