*README.md

title	date	categories	tags	description
我的深度学习入门过程	2017-03-01 16:02:01 -0800	Deep_learning	deep_learning	...

这里开始，我准备写一个深度学习(deep learning, 下文简称dl)的简单的入门教程.
其实就是我的dl入门的过程，学习了一段时间之后，回过头来进行整理.

起源

• 之所以搞深度学习是因为读研的方向是计算机视觉(CV)，需要使用dl作为工具进行实现.
• 同时，大四毕业设计的题目也是通过使用dl实现语义分割.

过程

• 首先是计算机视觉（computer vision， 下文简称cv）的入门，这个参考知乎上@方杰. 我仔细浏览了一遍stanford cs131的课程，对cv有了一个整体的认识,可以看我的总结.这个课程讲解的都是一些经典的cv处理方法，并没有涉及dl.
• 很快，师兄推荐了论文fully convolutional network for semantic segmentation.fully xxx这篇paper是dl应用与图像分割的开山之作.第一次读这样的文章难免会很多不懂的地方，可以结合这一篇imagenet classification with deep cnn, 这篇是dl的开山之作.
• 读论文的同时，我也在学习stanford的cs231n课程(资源可以在xx云课堂上找到)，这个课程令我对神经网络和CNN的大部分概念有了深入的理解，并了解了RNN等，这是我的笔记.其实之前师兄推荐的论文并没有读的很懂,在学习cs231n的过程中，了解到了几个经典的machine learning的算法，通过matlab进行了实现:
  • knn
  • svm
  • 线性回归和logistic(待续)
• 下一步就开始正经的进入到dl的学习与实践当中了.
  • git caffe,如果不会git，可以去学习廖雪峰git
  • 安装caffe并尝试训练了例程mnist和cifar10.安装教程.刚开始测试mnist，虽然能跑通结果，可是完全不懂是做什么，这里我谢了一个代码，可以把mnist中idx3-ubyte转化为图片.这样就可以直观看到，mnist例程是测试一些手写图片.
  • 根据官方文档安装和使用matcaffe
  • 自己训练和测试数据
  • 跟着博客学习，深入理解
  • 完成到这一步，基本已经十分了解alexnet，以及lenet, caffenet等.
    指的是: 可以自己从0开始在caffe上实现一个alexnet，进行训练并测试，了解每一层和每一个数据块的含义.并使用matlab进行过对alexnet等的单步调试.
• 下一步，开始玩fcn,进行图像语义分割(待续)
  • 先对fcn进行测试和训练

我的资源

• 本科毕业设计进度

参考

• 师兄推荐的下载论文的地方