1.为什么选择机器学习策略 案例:建立猫咪图像识别app 系统的优化可以有很多的方向: (1)获取更多的数据集,即更多的图片: (2)收集更多多样数据,如处于不常见的位置的猫的图,颜色奇异的猫的照片等: (3)增加算法迭代次数,使算法训练的更久: (4)尝试添加正则化: (5)改变神经网络的架构(层数,单元的个数等): …… 2.如何使用本书帮助你的团队 本书其实就是帮助做决策,决定改进的策略. 3.先修知识和符号标记 监督学习(supervised learning)主要会介绍:线性回归(li…

31.解读学习曲线:其他情况 下图反映了高方差,通过增加数据集可以改善. 下图反映了高偏差和高方差,需要找到一种方法来同时减少方差和偏差. 32.绘制学习曲线 情况:当数据集非常小时,比如只有100个样本,这时绘制出来的学习曲线可能噪声非常大. 解决方法: (1)与其只使用10个样本训练单个模型,不如从你原来的100个样本中进行随机有放回抽样,选择几批(比如3-10)不同的10个样本进行组合.在这些数据上训练不同的模型,并计算每个模型的训练和开发错误,最终计算和绘制平均训练集误差和平均开发集误差…

21.偏差和方差举例 前提:对于人类而言,可以达到近乎完美的表现(即人类去做分类是误差可以接近0). (1)假设算法的表现如下:训练误差率:1%,开发误差率:11%:此时即为高方差(high variance),也被称为过拟合(overfitting). (2)假设算法的表现如下:训练误差:15&,开发误差率:16%:此时即为高偏差(high bias),也被称为欠拟合(underfitting). (3)假设算法的表现如下:训练误差:15%,开发误差率:30%:此时即为高偏差和高方差. (4)…

11.何时修改开发集.测试集和度量指标 开展一个新项目,尽快选好开发集和测试集:例子,根据度量指标A分类器排在B分类器前面,但是团队认为B分类器在实际产品上优于A分类器,这时就需要考虑修改开发集和测试集,或者评价指标了. 有三个主要原因可能导致A分类器的评分较低: (1)你需要处理实际数据的分布和开发集.测试机数据的分布情况不同. (2)你的开发集上过拟合. (3)该指标所度量的不是项目应当优化的目标. 12小结:建立开发集和测试集 (1)选择作为开发集和测试集的数据,应当与你预期在将来获取并良…

这本书共112页,内容不多,偏向于工程向,有很多不错的细节,在此记录一下. 0 书籍获取 关注微信公众号"机器学习炼丹术",回复[MLY]获取pdf 1 测试集与训练集的比例 2 误差分析 误差分析我感觉是一个成熟的AIer必备的能力.俗话说数据决定准确率的上线,模型只是在逼近这个值.模型效果的提升首先是需要去看数据样本的,把分类错误的样本一个一个看一看,然后心中自己会给出判断:是否有可能减少这种分类错误的样本?如何减少? [也许心中没有这样的判断,但是看一看错误的样本是很重要的.一般…

最近开源了周志华老师的西瓜书<机器学习>纯手推笔记: 博士笔记 | 周志华<机器学习>手推笔记第一章思维导图 [博士笔记 | 周志华<机器学习>手推笔记第二章"模型评估与选择" 博士笔记 | 周志华<机器学习>手推笔记第三章"线性模型" 博士笔记 | 周志华<机器学习>手推笔记第四章"决策树" 博士笔记 | 周志华<机器学习>手推笔记第五章"神经网络" 博…

强烈安利吴恩达老师的<Machine Learning>课程,讲得非常好懂,基本上算是无基础就可以学习的课程. 课程地址 强烈建议在线学习,而不是把视频下载下来看.视频中间可能会有一些问题让你回答,这种互动的方式挺好的. 然后由于我个人的笔记是做在Onenote的笔记本里的,公式输入方法和markdown还是蛮不一样的,就不把自己的笔记放在博客里了.(而且感觉自己在瞎做) 最后强烈安利另外一位朋友的笔记.有word版,markdown版,pdf版,html版等等,业界良心!…

我在 B 站学机器学习(Machine Learning)- 吴恩达(Andrew Ng)[中英双语] 视频地址:https://www.bilibili.com/video/av9912938/ tensorflow:http://tensorflow123.com…

之前经学长推荐,开始在B站上看Andrew Ng的机器学习课程.其实已经看了1/3了吧,今天把学习笔记补上吧. 吴恩达老师的Machine learning课程共有113节(B站上的版本https://www.bilibili.com/video/av9912938).这篇学习笔记是结合第一.二部分(我所理解的): 第一部分:概览机器学习,介绍其中的一些专业名词及定义.Section 1-26 第二部分:如何使用Octave实现机器学习中的基本算法(Ocatave就是开源版的Matlab).Se…

吴恩达深度学习课程的课堂笔记以及课后作业 代码下载:https://github.com/douzujun/Deep-Learning-Coursera 吴恩达推荐笔记:https://mp.weixin.qq.com/s/cX9_DiqofPhdXrY_0oTEAw 课程1 - 神经网络和深度学习 周数 名称 类型 地址 week1 深度学习简介 测验 略 week2 神经网络基础 笔记 逻辑回归 逻辑回归推导 具有神经网络思维的Logistic回归 编程作业 识别猫 week3 浅层神经网络…