更新：本内容已全部整理为线上资料， https://bw666.netlify.app/mlp-abc/00/

这是一本学习神经网络基础的小册子，希望对你有帮助，最新文档请在Release中下载MLP_ABC.pdf，branch中的main.tex文件更新可能有滞后。

关于神经网络的教学多如牛毛，在任何涉及机器学习的书中，几乎都会介绍神经网络基础，撰写此小册子也不过多此一举，但在大量实践之后，产生了不少新的理解，还有一些是在初学时就理解错的，因此撰写此书，站在走出新手村的角度，总结对神经网络的认识，也是对教会笔者机器学习基础的《机器学习实战-基于Scikit-Learn、Keras和Tensorflow》的作者Aurélien Géron的致敬。

神经网络原理只是深度学习的基础知识，但真正撰写时，发现其细节之多也难以介绍完全，本小册子的目的就在于阐释笔者对于神经网络的全部理解，有些部分对初学者来说可能比较超前，可以学到后面再回头看看，但仍不涉及太深奥的数学推导，读者具备大学数学基础即可阅读。

本小册子包含以下内容

• 前言

1. 单层感知机
   1. 单个神经元的结构
   2. 激活函数
2. 神经网络
   1. 不同激活函数的表现
   2. 正向传播
   3. 梯度下降和反向传播
   4. 梯度爆炸和梯度消失现象
   5. 神经网络代码实现
      1. 现有框架实现神经网络
      2. 从零开始手写神经网络
3. 机器学习效果评估
   1. 一般情况
   2. 损失曲线剧烈震荡
   3. 过拟合和欠拟合
   4. 确定基准
   5. 调整图像
4. 模型改进技术
   1. 批量归一化
   2. dropout
   3. 残差连接
5. 磨练技术的途径
   1. kaggle竞赛
   2. 数学建模国赛
   3. 自己练习
6. 其他机器学习技术
   1. 深度学习
      1. 计算机视觉
      2. 自然语言处理
      3. 其他模型
   2. 强化学习
7. 后记