[飞桨黑客松第四期] (129) TinyNet

[flytocc]

• 总览： 【PaddlePaddle Hackathon 第四期】任务总览 Paddle#51281 (comment)
• 详情：论文复现：Model Rubik’s Cube: Twisting Resolution, Depth andWidth for TinyNets

修改内容

1. [bugfix] 当DecodeImage使用pil backend时，image类型应转为RGB
2. [bugfix] 在MixupOperator、CutmixOperator和FmixOperator中，索引打乱的方法存在一定缺陷，np.random.permutation可能造成部分索引在打乱前后顺序不变。改为逆序打乱索引。
3. [bugfix] 当使用checkpoint恢复训练时，更新sampler中的epoch为当前的epoch
4. [update] 为RandCropImage添加use_log_aspect的支持
5. [add] 增加TinyNet算法，包括model、config、test_tipc

复现精度

测试

Models	Top1	Top5	Reference top1	Reference top5	FLOPs (G)	Params (M)
TinyNet_A	0.7762	0.9354	0.777	0.935	0.339	6.24
TinyNet_A			0.768	0.933	0.339	6.24
TinyNet_B	0.7495	0.9217	0.750	0.922	0.202	3.76
TinyNet_C	0.7130	0.8970	0.712	0.897	0.100	2.48
TinyNet_D	0.6687	0.8706	0.670	0.871	0.052	2.36
TinyNet_E	0.5972	0.8184	0.599	0.818	0.024	2.06

训练

训练平台为AIStudio，PaddlePaddle2.4.0 with V100*4。训练命令可参考：

python -m paddle.distributed.launch --gpus=0,1,2,3 \
  tools/train.py \
    -c ppcls/configs/ImageNet/TinyNet/TinyNet_A.yaml

Models	Top1	Top5	Reference top1	Reference top5	weight & log
TinyNet_A	0.767	0.932	0.768	0.933	best_model_ema.ema.params & train*.log

权重及训练日志下载地址：百度网盘

[paddle-bot]

Thanks for your contribution!

[TingquanGao]

需要本地rebase一下

[TingquanGao]

玉博训练精度验证通过。