1.为什么选择机器学习策略 案例:建立猫咪图像识别app 系统的优化可以有很多的方向: (1)获取更多的数据集,即更多的图片: (2)收集更多多样数据,如处于不常见的位置的猫的图,颜色奇异的猫的照片等: (3)增加算法迭代次数,使算法训练的更久: (4)尝试添加正则化: (5)改变神经网络的架构(层数,单元的个数等): …… 2.如何使用本书帮助你的团队 本书其实就是帮助做决策,决定改进的策略. 3.先修知识和符号标记 监督学习(supervised learning)主要会介绍:线性回归(li…

31.解读学习曲线:其他情况 下图反映了高方差,通过增加数据集可以改善. 下图反映了高偏差和高方差,需要找到一种方法来同时减少方差和偏差. 32.绘制学习曲线 情况:当数据集非常小时,比如只有100个样本,这时绘制出来的学习曲线可能噪声非常大. 解决方法: (1)与其只使用10个样本训练单个模型,不如从你原来的100个样本中进行随机有放回抽样,选择几批(比如3-10)不同的10个样本进行组合.在这些数据上训练不同的模型,并计算每个模型的训练和开发错误,最终计算和绘制平均训练集误差和平均开发集误差…

21.偏差和方差举例 前提:对于人类而言,可以达到近乎完美的表现(即人类去做分类是误差可以接近0). (1)假设算法的表现如下:训练误差率:1%,开发误差率:11%:此时即为高方差(high variance),也被称为过拟合(overfitting). (2)假设算法的表现如下:训练误差:15&,开发误差率:16%:此时即为高偏差(high bias),也被称为欠拟合(underfitting). (3)假设算法的表现如下:训练误差:15%,开发误差率:30%:此时即为高偏差和高方差. (4)…

11.何时修改开发集.测试集和度量指标 开展一个新项目,尽快选好开发集和测试集:例子,根据度量指标A分类器排在B分类器前面,但是团队认为B分类器在实际产品上优于A分类器,这时就需要考虑修改开发集和测试集,或者评价指标了. 有三个主要原因可能导致A分类器的评分较低: (1)你需要处理实际数据的分布和开发集.测试机数据的分布情况不同. (2)你的开发集上过拟合. (3)该指标所度量的不是项目应当优化的目标. 12小结:建立开发集和测试集 (1)选择作为开发集和测试集的数据,应当与你预期在将来获取并良…

最近开源了周志华老师的西瓜书<机器学习>纯手推笔记: 博士笔记 | 周志华<机器学习>手推笔记第一章思维导图 [博士笔记 | 周志华<机器学习>手推笔记第二章"模型评估与选择" 博士笔记 | 周志华<机器学习>手推笔记第三章"线性模型" 博士笔记 | 周志华<机器学习>手推笔记第四章"决策树" 博士笔记 | 周志华<机器学习>手推笔记第五章"神经网络" 博…

这本书共112页,内容不多,偏向于工程向,有很多不错的细节,在此记录一下. 0 书籍获取 关注微信公众号"机器学习炼丹术",回复[MLY]获取pdf 1 测试集与训练集的比例 2 误差分析 误差分析我感觉是一个成熟的AIer必备的能力.俗话说数据决定准确率的上线,模型只是在逼近这个值.模型效果的提升首先是需要去看数据样本的,把分类错误的样本一个一个看一看,然后心中自己会给出判断:是否有可能减少这种分类错误的样本?如何减少? [也许心中没有这样的判断,但是看一看错误的样本是很重要的.一般…

我在 B 站学机器学习(Machine Learning)- 吴恩达(Andrew Ng)[中英双语] 视频地址:https://www.bilibili.com/video/av9912938/ tensorflow:http://tensorflow123.com…

强烈安利吴恩达老师的<Machine Learning>课程,讲得非常好懂,基本上算是无基础就可以学习的课程. 课程地址 强烈建议在线学习,而不是把视频下载下来看.视频中间可能会有一些问题让你回答,这种互动的方式挺好的. 然后由于我个人的笔记是做在Onenote的笔记本里的,公式输入方法和markdown还是蛮不一样的,就不把自己的笔记放在博客里了.(而且感觉自己在瞎做) 最后强烈安利另外一位朋友的笔记.有word版,markdown版,pdf版,html版等等,业界良心!…

一年一度的 NIPS 又来了.今年举办地是笔者最爱的欧洲城市巴塞罗那.阳光沙滩配学术,确实很爽.这次的会议的第一天开场的大部分时间安排给了 tutorial.其中人数爆满的依旧是吴恩达(AndrewNg)的 session.笔者在此总结一下他的 tutorial 内容.一如以往的风格,这次吴恩达博士(有趣的是,本次官方介绍他的时候 使用的是 Dr. 而不是 Prof.)在台上也是纯白板讲演. 开场的时候,他问了一下全场观众哪些是来自工业界.哗哗哗,全场接近 50% 的观众举手了.确实,这几年的…

[吴恩达课后测验]Course 1 - 神经网络和深度学习 - 第一周测验[中英] 第一周测验 - 深度学习简介 和“AI是新电力”相类似的说法是什么? [  ]AI为我们的家庭和办公室的个人设备供电,类似于电力. [  ]通过“智能电网”,AI提供新的电能. [ ]AI在计算机上运行,​​并由电力驱动,但是它正在让以前的计算机不能做的事情变为可能. [★]就像100年前产生电能一样,AI正在改变很多的行业. 请注意: 吴恩达在视频中表达了同样的观点. 哪些是深度学习快速发展的原因? (两个选项…