Optimize BatchNorm1D backward

[zkh2016]

PR types

Performance optimization

PR changes

OPs

Describe

优化BatchNorm1D在大batch_size下的反向性能，相关PR：优化BatchNorm1D前向性能。

1. 这个PR只对NC格式的反向进行优化
2. 优化方法：将反向kernel拆分成三个kernel，每个kernel的并发度更高以得到更高的性能。
3. 训练性能：以centerpoint模型训练情况，优化前Bn1D反向kernel占整体比重13.5%， 优化后只占1%。
4. kernel耗时对比：其中paddle优化前在N<131070时走cudnn，否则走native kernel

shape	torch(ns)	paddle优化前(ns)	paddle优化后(ns)
(126000, 16)	73,663.50	24,091,916.00	73,296.00
(136000, 32)	124,095.50	696,446.50	143,312.00
(215857, 32)	177,023.50	1,100,270.00	206,415.50
(215857, 64)	336,545.00	1,982,108.00	355,791.00
(143042, 64)	236,027.50	1,316,191.00	242,461.50
(62929, 64)	123,039.50	12,921,860.50	115,997.50

[paddle-bot]

你的PR提交成功，感谢你对开源项目的贡献!
请关注后续CI自动化测试结果，详情请参考Paddle-CI手册。
Your PR has been submitted. Thanks for your contribution!
Please wait for the result of CI firstly. See Paddle CI Manual for details.