Pytorch-Lightning-Template

English Version

Introduction

Pytorch-Lightning 是一个很便利的库，它可以看作是Pytorch的抽象和包装。它的好处是可复用性强，易维护，逻辑清晰等。缺点是过重，需要学习和理解的内容较多，另外其直接将模型和训练代码强绑定的模式并不适合大型的真实项目，因为这些项目中往往有很多不同的模型需要训练测试。数据部分也是如此，DataLoader等与自定义Dataset强绑定也造成了类似的问题：同样的代码被不优雅的多次拷贝粘贴。

经过不断的摸索和调试，我总结出了下面这样一套好用的模板，也可以说是对Pytorch-Lightning的进一步抽象。初版中模板内容都在根文件夹下，但是经过一个多月的使用，我发现如果能针对不同类型的项目建立相应的模板，编码效率可以得到进一步提高。如分类任务和超分辨率任务最近都有做，但它们都有一些固定的需求点，每次直接使用经过特化的模板完成速度更快，也减少了一些可避免的bug和debug。同时，也可以添加一些仅适用于本任务的代码与文件。

当前由于建库时间尚短，只有这两种模板。但后面随着我应用它到其他项目上，也会添加新的特化模板。如果您使用了本模板到您的任务（如NLP, GAN, 语音识别等），欢迎提出PR，以便整合您的模板到总库，方便更多人使用。如果您的任务还不在列表中，不妨从classification模板开始，调整配制出适合您任务的模板。由于绝大部分模板底层代码是相同的，这可以被很快完成。

欢迎大家尝试这一套代码风格，如果用习惯的话还是相当方便复用的，也不容易半道退坑。更加详细的解释和对Pytorch-Lightning的完全攻略可以在本篇知乎博客上找到。

文件结构

root-
	|-config	
		|- defaults.py  - 这里是默认的配置文件
	├──  configs  
		└── train_mnist_softmax.yml  - here's the specific config file for specific model or dataset.
	|-datasets
		|-__init__.py
		|-data_interface.py
		|-xxxdataset1.py
		|-xxxdataset2.py
		|-...
	|-models
		|-__init__.py
		|-model_interface.py
		|-xxxmodel1.py
		|-xxxmodel2.py
		|-...
	|-log 			# 记录的log文件，包括权重，训练数据等
	|-moudles 		# 其他的一些可以复用的深度学习模块 
		|-layers	# 常用的神经网络的层
	|-main.py		# 主程序，包含训练、验证、测试和预测
	|-utils   		# 各种工具代码,可以是日志、评价指标计算等等
		|-metrics	# 评价指标的计算
		|-visualize # 可视化工具 
	|-scripts 		# 各种训练测试脚本 
	|-train.py		# 训练代码 
	|-eval.py 		# 测试代码 
	|-re
	

Installation

本模板不需要安装，直接git clone https://github.com/miracleyoo/pytorch-lightning-template.git 到本地即可。使用时选择你需要的问题类型（如classification），将那个文件夹直接拷贝到你的项目文件夹中。

Explanation

模板架构：

• 主目录下只放一个main.py文件和一个用于辅助的utils.py。

• data和modle两个文件夹中放入__init__.py文件，做成包。这样方便导入。两个init文件分别是：

  • from .data_interface import DInterface
  • from .model_interface import MInterface

• 在data_interface 中建立一个class DInterface(pl.LightningDataModule):用作所有数据集文件的接口。__init__()函数中import相应Dataset类，setup()进行实例化，并老老实实加入所需要的的train_dataloader, val_dataloader, test_dataloader函数。这些函数往往都是相似的，可以用几个输入args控制不同的部分。

• 同理，在model_interface 中建立class MInterface(pl.LightningModule):类，作为模型的中间接口。__init__()函数中import相应模型类，然后老老实实加入configure_optimizers, training_step, validation_step等函数，用一个接口类控制所有模型。不同部分使用输入参数控制。

• main.py函数只负责：

  • 定义parser，添加parse项。（注意如果你的模型或数据集文件的__init__函数中有需要外部控制的变量，如一个random_arg，你可以直接在main.py的Parser中添加这样一项，如parser.add_argument('--random_arg', default='test', type=str)，两个Interface类会自动传导这些参数到你的模型或数据集类中。）
  • 选好需要的callback函数们，如自动存档，Early Stop，LR Scheduler等。
  • 实例化MInterface, DInterface, Trainer。

完事。

需要注意的是，为了实现自动加入新model和dataset而不用更改Interface，model文件夹中的模型文件名应该使用snake case命名，如rdn_fuse.py，而文件中的主类则要使用对应的驼峰命名法，如RdnFuse。

数据集data文件夹也是一样。

虽然对命名提出了较紧的要求，但实际上并不会影响使用，反而让你的代码结构更加清晰。希望使用时候可以注意这点，以免无法parse。

TO_DO

• 对训练文件夹的结构进行更改，使其更合理
• 寻找一种更好的config系统，能够支持父亲节点，并且能够在声明的时候能够记录参数文件
• []