Deep Learning 教程（斯坦福深度学习研究团队）

http://www.zhizihua.com/blog/post/602.html

说明：本教程将阐述无监督特征学习和深度学习的主要观点。通过学习，你也将实现多个功能学习/深度学习算法，能看到它们为你工作，并学习如何应用/适应这些想法到新问题上。

本教程假定机器学习的基本知识（特别是熟悉的监督学习，逻辑回归，梯度下降的想法），如果你不熟悉这些想法，我们建议你去这里

机器学习课程，并先完成第II，III，IV章（到逻辑回归）

稀疏自编码器

• 神经网络

• 反向传导算法

• 梯度检验与高级优化

• 自编码算法与稀疏性

• 可视化自编码器训练结果

• 稀疏自编码器符号一览表

• Exercise:Sparse Autoencoder

矢量化编程实现

• 矢量化编程

• 逻辑回归的向量化实现样例

• 神经网络向量化

• Exercise:Vectorization

预处理：主成分分析与白化

• 主成分分析

• 白化

• 实现主成分分析和白化

• Exercise:PCA in 2D

• Exercise:PCA and Whitening

Softmax回归

• Softmax回归

• Exercise:Softmax Regression

自我学习与无监督特征学习

• 自我学习

• Exercise:Self-Taught Learning

建立分类用深度网络

• 从自我学习到深层网络

• 深度网络概览

• 栈式自编码算法

• 微调多层自编码算法

• Exercise: Implement deep networks for digit classification

自编码线性解码器

• 线性解码器

• Exercise:Learning color features with Sparse Autoencoders

处理大型图像

• 卷积特征提取

• 池化

• Exercise:Convolution and Pooling

---

注意: 这条线以上的章节是稳定的。下面的章节仍在建设中，如有变更，恕不另行通知。请随意浏览周围并欢迎提交反馈/建议。

混杂的

• MATLAB Modules

• Style Guide

• Useful Links

混杂的主题

• 数据预处理

• 用反向传导思想求导

进阶主题:

稀疏编码

• 稀疏编码

• 稀疏编码自编码表达

• Exercise:Sparse Coding

独立成分分析样式建模

• 独立成分分析

• Exercise:Independent Component Analysis

其它

• Convolutional training

• Restricted Boltzmann Machines

• Deep Belief Networks

• Denoising Autoencoders

• K-means

• Spatial pyramids / Multiscale

• Slow Feature Analysis

• Tiled Convolution Networks

---

英文原文作者: Andrew Ng, Jiquan Ngiam, Chuan Yu Foo, Yifan Mai, Caroline Suen

原文：http://deeplearning.stanford.edu/wiki/index.php/UFLDL%E6%95%99%E7%A8%8B