support for multi-GPU

[xdcesc]

目前的脚本不支持多GPU，有没有哪位改成功的push一下？

[chenpe32cp]

我按照网上的方法加上DataPallel后，报Gather got an input of invalid size: got [10,35,9961], but expected [10,26,9961] 的错误，没找到啥问题，请问你的多GPU方案调试成功了吗？

[xdcesc]

我按照网上的方法加上DataPallel后，报Gather got an input of invalid size: got [10,35,9961], but expected [10,26,9961] 的错误，没找到啥问题，请问你的多GPU方案调试成功了吗？

没有成功，报错与你的相同

[fchest]

This script for multi-gpus is in https://github.com/fchest/Speech-Transformer-multi-GPUs. We change the Speech-Transformer into multi-GPUs.