更新:本内容已全部整理为线上资料, https://bw666.netlify.app/mlp-abc/00/
这是一本学习神经网络基础的小册子,希望对你有帮助,最新文档请在Release中下载MLP_ABC.pdf
,branch中的main.tex
文件更新可能有滞后。
关于神经网络的教学多如牛毛,在任何涉及机器学习的书中,几乎都会介绍神经网络基础,撰写此小册子也不过多此一举,但在大量实践之后,产生了不少新的理解,还有一些是在初学时就理解错的,因此撰写此书,站在走出新手村的角度,总结对神经网络的认识,也是对教会笔者机器学习基础的《机器学习实战-基于Scikit-Learn、Keras和Tensorflow》的作者Aurélien Géron的致敬。
神经网络原理只是深度学习的基础知识,但真正撰写时,发现其细节之多也难以介绍完全,本小册子的目的就在于阐释笔者对于神经网络的全部理解,有些部分对初学者来说可能比较超前,可以学到后面再回头看看,但仍不涉及太深奥的数学推导,读者具备大学数学基础即可阅读。
本小册子包含以下内容
- 前言
- 单层感知机
- 单个神经元的结构
- 激活函数
- 神经网络
- 不同激活函数的表现
- 正向传播
- 梯度下降和反向传播
- 梯度爆炸和梯度消失现象
- 神经网络代码实现
- 现有框架实现神经网络
- 从零开始手写神经网络
- 机器学习效果评估
- 一般情况
- 损失曲线剧烈震荡
- 过拟合和欠拟合
- 确定基准
- 调整图像
- 模型改进技术
- 批量归一化
- dropout
- 残差连接
- 磨练技术的途径
- kaggle竞赛
- 数学建模国赛
- 自己练习
- 其他机器学习技术
- 深度学习
- 计算机视觉
- 自然语言处理
- 其他模型
- 强化学习
- 深度学习
- 后记