Deep Pyramidal Residual Networks with Separated Stochastic Depth

Yoshihiro Yamada, Masakazu Iwamura, Koichi Kise

Graduate School of Engineering, Osaka Prefecture University

どんなもの？

ResNetベースでResDropとPyramidNetを組み合わせた物体認識の精度を向上させる手法を提案。

先行研究と比べてどこがすごい？

CIFAR-10, CIFAR-100のデータセットでSoTA

技術や手法の肝はどこ？

ResDropとPyramidNetを単純に組み合わせた(PyramidalDrop)だけでは精度が向上しないものの、 ResDropとPyramidNetへ別々にデータを与えるようにする(PyramidalSepDrop)と精度が向上する点

どうやって有効だと検証したか？

CIFAR-10, CIFAR-100での誤差率実験
depthを変化させての実験
モデル数を変化させての実験

議論はある？

PyramidalDropでは精度が上がらなくて、なぜPyramidalSepDropでは上がるのかの考察がない。

次に読むべき論文は？

Aggregated Residual Transformations for deep neural networks
Deep Pyramidal residual networks