25 KiB
从 MMClassification 0.x 迁移
我们在 MMClassification 1.x 版本中引入了一些修改,可能会产生兼容性问题。请按照本教程从 MMClassification 0.x 迁移您的项目。
新的依赖
MMClassification 1.x 依赖一些新的包。你可以准备一个干净的新环境,并按照安装教程重新安装;或者手动安装以下软件包。
- MMEngine:MMEngine 是 OpenMMLab 2.0 架构的核心库,我们将许多与计算机视觉无关的组件从 MMCV 拆分到了 MMEngine。
- MMCV:OpenMMLab 计算机视觉基础库,这不是一个新的依赖,但你需要将其升级到
2.0.0rc1
版本以上。 - rich:一个命令行美化库,用以在命令行中呈现更美观的输出。
配置文件
在 MMClassification 1.x 中,我们重构了配置文件的结构,绝大部分原来的配置文件无法直接使用。
在本节中,我们将介绍配置文件的所有变化。我们假设您已经对配置文件有所了解。
模型设置
model.backbone
、model.neck
和 model.head
字段没有变化。
model.train_cfg
字段的变化:
BatchMixup
被重命名为Mixup
BatchCutMix
被重命名为CutMix
BatchResizeMix
被重命名为ResizeMix
- 以上增强中的
prob
参数均被移除,现在在train_cfg
中使用一个统一的probs
字段指定每个增强的概率。如果没 有指定probs
字段,现在将均匀地随机选择一种增强。
原配置 |
|
新配置 |
|
数据设置
data
字段的变化:
- 原先的
data
字段被拆分为train_dataloader
,val_dataloader
和test_dataloader
字段。这允许我们进行更 加细粒度的配置。比如在训练和测试中指定不同的采样器、批次大小等。 samples_per_gpu
字段被重命名为batch_size
workers_per_gpu
字段被重命名为num_workers
原配置 |
|
新配置 |
|
pipeline
字段的变化:
- 原先的
ToTensor
、ImageToTensor
和Collect
被合并为PackInputs
- 我们建议去除数据集流水线中的
Normalize
变换,转而使用data_preprocessor
字段进行归一化预处理。 RandomFlip
中的flip_prob
参数被重命名为flip
RandomCrop
中的size
参数被重命名为crop_size
RandomResizedCrop
中的size
参数被重命名为scale
Resize
中的size
参数被重命名为scale
。并且不再支持形如(256, -1)
的尺寸,请使用ResizeEdge
AutoAugment
和RandAugment
中的policies
参数现在支持使用字符串来指定某些预设的策略集,AutoAugment
支持 "imagenet",RandAugment
支持 "timm_increasing"RandomResizedCrop
和CenterCrop
不再支持efficientnet_style
参数,请使用EfficientNetRandomCrop
和EfficientNetCenterCrop
我们将一些数据变换工作移至数据预处理器进行,如归一化,请参阅[文档](mmpretrain.models.utils.data_preprocessor)了解更多详细信息。
原配置 |
|
新配置 |
|
evaluation
字段的变化:
- 原先的
evaluation
字段被拆分为val_evaluator
和test_evaluator
,并且不再支持interval
和save_best
参数。interval
参数被移动至train_cfg.val_interval
字段,详见训练策略配置。而save_best
参数被移动至default_hooks.checkpoint.save_best
字段,详见 运行设置。 - 'accuracy' 指标被重命名为
Accuracy
- 'precision','recall','f1-score' 和 'support' 指标被组合为
SingleLabelMetric
,并使用items
参数指定具体计算哪些指标。 - 'mAP' 指标被重命名为
AveragePrecision
- 'CP','CR','CF1','OP','OR' 和 'OF1' 指标被组合为
MultiLabelMetric
,并使用items
和average
参数指定具体计算哪些指标。
原配置 |
|
新配置 |
|
原配置 |
|
新配置 |
|
训练策略设置
optimizer
和 optimizer_config
字段的变化:
- 现在我们使用
optim_wrapper
字段指定与优化过程有关的所有配置。而optimizer
字段是optim_wrapper
的一个 子字段。 paramwise_cfg
字段不再是optimizer
的子字段,而是optim_wrapper
的子字段。optimizer_config
字段被移除,其配置项被移入optim_wrapper
字段。grad_clip
被重命名为clip_grad
原配置 |
|
新配置 |
|
lr_config
字段的变化:
lr_config
字段被移除,我们使用新的param_scheduler
配置取代。warmup
相关的字段都被移除,因为学习率预热可以通过多个学习率规划器的组合来实现,因此不再单独实现。
新的优化器参数规划器组合机制非常灵活,你可以使用它来设计多种学习率、动量曲线,详见{external+mmengine:doc}MMEngine 中的教程 <tutorials/param_scheduler>
。
原配置 |
|
新配置 |
|
runner
字段的变化:
原 runner
字段被拆分为 train_cfg
,val_cfg
和 test_cfg
三个字段,分别配置训练、验证和测试循环。
原配置 |
|
新配置 |
|
在 OpenMMLab 2.0 中,我们引入了“循环控制器”来控制训练、验证和测试行为,而原先 Runner
功能也相应地发生了变化。详细介绍参见 MMEngine 中的{external+mmengine:doc}执行器教程 <design/runner>
。
运行设置
checkpoint_config
和 log_config
字段的变化:
checkpoint_config
被移动至 default_hooks.checkpoint
,log_config
被移动至 default_hooks.logger
。同时,
我们将很多原先在训练脚本中隐式定义的钩子移动到了 default_hooks
字段。
default_hooks = dict(
# 记录每轮迭代的耗时
timer=dict(type='IterTimerHook'),
# 每 100 轮迭代打印一次日志
logger=dict(type='LoggerHook', interval=100),
# 启用优化器参数规划器
param_scheduler=dict(type='ParamSchedulerHook'),
# 每个 epoch 保存一次模型权重文件,并且自动保存最优权重文件
checkpoint=dict(type='CheckpointHook', interval=1, save_best='auto'),
# 在分布式环境中设置采样器种子
sampler_seed=dict(type='DistSamplerSeedHook'),
# 可视化验证结果,将 `enable` 设为 True 来启用这一功能。
visualization=dict(type='VisualizationHook', enable=False),
)
此外,我们将原来的日志功能拆分为日志记录和可视化器。日志记录负责按照指定间隔保存日志数据,以及进行数据平滑等处理,可视化器用于在不同的后端记录日志,如终端、TensorBoard 和 WandB。
原配置 |
|
新配置 |
|
load_from
和 resume_from
字段的变动:
resume_from
字段被移除。我们现在使用resume
和load_from
字段实现以下功能:- 如
resume=True
且load_from
不为 None,从load_from
指定的权重文件恢复训练。 - 如
resume=True
且load_from
为 None,尝试从工作目录中最新的权重文件恢复训练。 - 如
resume=False
且load_from
不为 None,仅加载指定的权重文件,不恢复训练。 - 如
resume=False
且load_from
为 None,不进行任何操作。
- 如
dist_params
字段的变动:dist_params
字段被移动为 env_cfg
字段的一个子字段。以下为 env_cfg
字段的所
有配置项:
env_cfg = dict(
# 是否启用 cudnn benchmark
cudnn_benchmark=False,
# 设置多进程相关参数
mp_cfg=dict(mp_start_method='fork', opencv_num_threads=0),
# 设置分布式相关参数
dist_cfg=dict(backend='nccl'),
)
workflow
字段的变动:workflow
相关的功能现已被移除。
新字段 visualizer
:可视化器是 OpenMMLab 2.0 架构中的新设计,我们使用可视化器进行日志、结果的可视化与多后
端的存储。详见 MMEngine 中的{external+mmengine:doc}可视化教程 <advanced_tutorials/visualization>
。
visualizer = dict(
type='UniversalVisualizer',
vis_backends=[
dict(type='LocalVisBackend'),
# 将下行取消注释,即可将日志和可视化结果保存至 TesnorBoard
# dict(type='TensorboardVisBackend')
]
)
新字段 default_scope
:指定所有注册器进行模块搜索默认的起点。MMClassification 中的 default_scope
字段为 mmpretrain
,大部分情况下不需要修改。详见 MMengine 中的{external+mmengine:doc}注册器教程 <advanced_tutorials/registry>
。
模块变动
mmpretrain.apis
详见包文档
函数 | 变动 |
---|---|
init_model |
无变动 |
inference_model |
无变动,但我们推荐使用功能更强的 mmpretrain.ImageClassificationInferencer 。 |
train_model |
移除,直接使用 runner.train 进行训练。 |
multi_gpu_test |
移除,直接使用 runner.test 进行测试。 |
single_gpu_test |
移除,直接使用 runner.test 进行测试。 |
show_result_pyplot |
移除,使用 mmpretrain.ImageClassificationInferencer 进行模型推理和结果可视化。 |
set_random_seed |
移除,使用 mmengine.runner.set_random_seed . |
init_random_seed |
移除,使用 mmengine.dist.sync_random_seed . |
mmpretrain.core
mmpretrain.core
包被重命名为 mmpretrain.engine
子包 | 变动 |
---|---|
evaluation |
移除,使用 mmpretrain.evaluation |
hook |
移动至 mmpretrain.engine.hooks |
optimizers |
移动至 mmpretrain.engine.optimizers |
utils |
移除,分布式环境相关的函数统一至 mmengine.dist 包 |
visualization |
移除,其中可视化相关的功能被移动至 mmpretrain.visualization.UniversalVisualizer |
hooks
包中的 MMClsWandbHook
尚未实现。
hooks
包中的 CosineAnnealingCooldownLrUpdaterHook
被移除。我们现在支持使用学习率规划器的组合实现该功能。详见自定义训练优化策略。
mmpretrain.datasets
详见包文档
数据集类 | 变动 |
---|---|
CustomDataset |
增加了 data_root 参数,作为 data_prefix 和 ann_file 的共同根路径。 |
ImageNet |
与 CustomDataset 相同。 |
ImageNet21k |
与 CustomDataset 相同。 |
CIFAR10 & CIFAR100 |
test_mode 参数目前是必要参数。 |
MNIST & FashionMNIST |
test_mode 参数目前是必要参数。 |
VOC |
现在需要指定 data_root ,image_set_path 和 test_mode 参数。 |
CUB |
现在需要指定 data_root 和 test_mode 参数。 |
mmpretrain.datasets.pipelines
包被重命名为 mmpretrain.datasets.transforms
数据变换类 | 变动 |
---|---|
LoadImageFromFile |
移除,使用 mmcv.transforms.LoadImageFromFile |
RandomFlip |
移除,使用 mmcv.transforms.RandomFlip ,其中 flip_prob 参数被重命名为 prob |
RandomCrop |
size 参数被重命名为 crop_size |
RandomResizedCrop |
size 参数被重命名为 scale ;scale 参数被重命名为 crop_ratio_range ;不再支持 efficientnet_style ,请使用 EfficientNetRandomCrop |
CenterCrop |
移除,使用 mmcv.transforms.CenterCrop ;不再支持 efficientnet_style ,请使用 EfficientNetCenterCrop |
Resize |
移除,使用 mmcv.transforms.Resize ;size 参数被重命名为 scale ,且不再支持形如 (256, -1) 参数,使用 ResizeEdge |
AutoAugment & RandomAugment |
policies 参数现在支持使用字符串指定预设的策略集。 |
Compose |
移除,使用 mmcv.transforms.Compose |
mmpretrain.models
详见包文档,backbones、necks 和 losses 的结构没有变动。
ImageClassifier
的变动:
分类器的方法 | 变动 |
---|---|
extract_feat |
无变动 |
forward |
现在需要三个输入:inputs 、data_samples 和 mode 。详见文档 |
forward_train |
变更为 loss 方法。 |
simple_test |
变更为 predict 方法。 |
train_step |
optimizer 参数被修改为 optim_wrapper ,接受 OptimWrapper |
val_step |
原先的 val_step 与 train_step 一致,现在该方法将会调用 predict |
test_step |
新方法,与 val_step 一致。 |
heads 中的变动:
分类头的方法 | 变动 |
---|---|
pre_logits |
无变动 |
forward_train |
变更为 loss 方法。 |
simple_test |
变更为 predict 方法。 |
loss |
现在接受 data_samples 参数,而不是 gt_labels ,data_samples 参数应当接受 ClsDataSample 的列表。 |
forward |
新方法,它将返回分类头的输出,不会进行任何后处理(包括 softmax 或 sigmoid)。 |
mmpretrain.utils
详见包文档
函数 | 变动 |
---|---|
collect_env |
无变动 |
get_root_logger |
移除,使用 mmengine.logging.MMLogger.get_current_instance |
load_json_log |
输出格式发生变化。 |
setup_multi_processes |
移除,使用 mmengine.utils.dl_utils.set_multi_processing |
wrap_non_distributed_model |
移除,现在 runner 会自动包装模型。 |
wrap_distributed_model |
移除,现在 runner 会自动包装模型。 |
auto_select_device |
移除,现在 runner 会自动选择设备。 |
其他变动
- 我们将所有注册器的定义从各个包移动到了
mmpretrain.registry
包。