第七部分 让 学习率 和 学习潜能 随时间的变化 光训练就花了一个小时的时间.等结果并非一个令人心情愉快的事情.这一部分.我们将讨论将两个技巧结合让网络训练的更快! 直觉上的解决的方法是,開始训练时取一个较高的学习率,随着迭代次数的增多不停的减小这个值.这是有道理的,由于開始的时候我们距离全局最长处很远.我们想要朝着最长处的方向大步前进:然而里最长处越近,我们就前进的越慎重,以免一步跨过去.举个样例说就是你乘火车回家,但你进家门的时候肯定是走进去.不能让火车开进去. 从讨论深度学习中初始化和学习…