比赛链接：https://www.heywhale.com/home/competition/61b810c9902a13001708eb21

Manas队伍：初赛Rank1
chantcalf: https://github.com/chantcalf
wqh17101: https://github.com/wqh17101


1. 必要的代码级样例展示
无
2. 算法思路
（1）使用VQVAE作为baseline。量化效果比较好。
（2）使用MLP Mixer作为骨干网络，模型小、速度快但容量大，拟合效果好。
（3）归一化：对每个样本计算l2范数，除以范数后再进行编码，解码后的结果再乘以范数。
（4）降低过拟合：使用数据增强和adamw等。
（5）模型融合：使用EMA做自融合；对范数进行扰动，选择最优的进行编码。

3. 亮点解读
（1）矢量量化：矢量量化效果很好，码率接近限制字节数。动态标量量化可以有更高的码率，但保存的信息没有矢量量化多，解码效果不如矢量量化。
（2）MLP Mixer：网络表现力很强，模型小，速度快，比同量级的transformer和CNN收敛都快，但容易过拟合。
（3）多模型融合：在编码器中添加解码器，可以选择最优的解码方案。

4. 建模算力与环境
a. 项目运行环境

i. 项目所需的工具包/框架
numpy==1.18.5
torch=1.9.0+cu111

ii. 项目运行的资源环境
windows11
1个3090显卡

b. 项目运行办法
i. 项目的文件结构
-tasks
    -config.py : 配置和日志
    -Model_define_pytorch.py : 模型定义及提交文件
    -train.py  :训练文件
    -Model_evaluation_encoder.py: 官方提供的评估文件
    -Model_evaluation_decoder.py: 官方提供的评估文件

ii. 项目的运行步骤
运行train.py：
cd ./tasks
python train.py
在./tasks/Modelsave文件夹中含有生成的结果
运行结果的位置
./tasks/Modelsave/encoder.pth.tar 文件
./tasks/Modelsave/decoder.pth.tar 文件
5. 使用的预训练模型相关论文及模型下载链接
无
6. 其他补充资料（如有）
参考文献：
Neural Discrete Representation Learning: https://arxiv.org/abs/1711.00937.
Generating Diverse High-Fidelity Images with VQ-VAE-2.