BMTrain 是一个高效的大模型训练工具包,可以用于训练数百亿参数的大模型。BMTrain 可以在分布式训练模型的同时,能够保持代码的简洁性。
.. toctree:: :maxdepth: 2 :caption: Getting Started notes/installation.md notes/quickstart.md notes/tech.md
.. toctree:: :maxdepth: 2 :caption: Package Reference api/bmtrain.rst api/nccl.rst api/inspect.rst api/lr_scheduler.rst