Machine Learning

Introduction

• 所属大学：國立台灣大學
• 授课老师：李宏毅
• 先修要求：熟练掌握 Python
• 编程语言：Python
• 课程难度：🌟🌟🌟🌟
• 预计学时：80 小时
• 学年：Spring 2022

李宏毅老师是国立台湾大学的教授，其风趣幽默的授课风格深受大家喜爱，并且尤其喜欢在 PPT 中插入宝可梦等动漫元素，是个非常可爱的老师。

这门课挂着机器学习的牌子，但其课程内容之广实在令人咋舌，其作业一共包含 15 个 lab，分别是 Regression、Classification、CNN、Self-Attention、Transformer、GAN、BERT、Anomaly Detection、Explainable AI、Attack、Adaptation、 RL、Compression、Life-Long Learning 以及 Meta Learning。可谓是包罗万象，能让学生对于深度学习的绝大多数领域都有一定了解，从而可以进一步选择想要深入的方向进行学习。

大家也大可不必担心作业的难度，因为所有作业都会提供助教的示例代码，帮你完成数据处理、模型搭建等，你只需要在其基础上进行适量的修改即可。这也是一个学习别人优质代码的极好机会，大家需要水课程大作业的话，这里也是一个不错的资料来源。

Resources

• 课程网站：https://speech.ee.ntu.edu.tw/~hylee/ml/2022-spring.php
• 课程视频：https://www.youtube.com/playlist?list=PLJV_el3uVTsPM2mM-OQzJXziCGJa8nJL8
• 课程作业：15 个 lab，几乎覆盖了主流深度学习的所有领域，参见课程网站
• 参考书籍：《Dive into Deep Learning》https://d2l.ai/

Notes

Lecture 1: Introduction of Deep Learning

介绍了些本门课可以学到的东西

Lecture 2: What to do if my network fails to train

为什么参数越多，越容易 overfit

训练集不好

Optimization Fails

为什么 small batch 的效果要好，因为在另一个损失函数中就不是 critical point

Tips for training: Adaptive Learning Rate

客制化的 learning rate

Lecture 3: Image as input

cnn

深度学习好在哪

ReLU 进行叠加 + 常数可代表任何方程

Lecture 4: Sequence as input

step-1 从 a_i 得到 q k v 的矩阵

step-2 K 和 Q 的矩阵乘 得到 A 矩阵

step-3 V 和 A 的矩阵乘得到 O 矩阵

并发能力由硬件提供，整个过程需要训练的是 q k v 的 weight 矩阵

self-attention vs CNN

• CNN 是 self-attention 的特例，CNN 的 receptive field 是固定的，self-attention 的 receptive field 是可变的，甚至是全图，甚至是可以训练的
• 训练集小的时候 CNN 效果好些，在大训练集上 self-attention 效果更好

self-attention vs RNN

• RNN 中的输入是有距离的（第一个输入在最后面的计算时慢慢会被遗忘），self-attention 中所有的输入都是平等的
• RNN 只能一个一个去算，self-attention 可以并行计算

Lecture 5: Sequence to sequence

encoder

decoder

training

Tips

Scheduled Sampling

各式各樣的 Attention

通过改变矩阵乘的顺序来降低计算量

Lecture 6: Generation

风格迁移

Recent Advance of Self-supervised learning for NLP

BERT: https://leemeng.tw/attack_on_bert_transfer_learning_in_nlp.html

...

Lecture 7: Self-supervised learning for Speech and Image

1. Generative Approaches

2. Predictive Approach

3. Contrastive Learning

Lecture 8: Auto-encoder/ Anomaly Detection

Lecture 9: Explainable AI

Lecture 10: Attack

白盒攻击：知道模型和模型参数，输入的图片作为参数进行训练，既能让输出为另一个东西，同时也和原图片还很相同

黑盒攻击：不知道模型，用同一个数据集训练一个模型，对自己的模型进行攻击，那么训练好的输入图片，对要攻击的模型同样有效

Lecture 11: Adaptation

Lecture 12: Reinforcement Learning

Lecture 13: Network Compression

Lecture 14: Life-long Learning

Lecture 15: Meta Learning