正交化 Orthogonalization

简单的说就是有些调整是不相互影响的，所以可以分开做

单一评价指标

一般来说有一个单一数值作为评价指标会更好

如果存在多个指标，一般可以优化一个，其他几个满足一定条件就好

除了通用的一些指标，我们可以通过给样本加权的方式，使得获得更加适合我们应用的评价指标

保证训练、验证、测试的数据分布一致

不同的错误

任务的理论上限： bayes optimal error
人类的水平： human error

假设一个图像识别的任务

Humans	1%	7.5%
Training error	8%	8%
Dev Error	10%	10%

左边的例子，如果人类的错误率是1%，那么我们应该关注的是bias
右边的例子，如果说人类错误率是7.5%，那么我们应该关注的是variance
在这个例子中我们能够用人类错误率来代替理论上限是因为人类在图像识别的任务上做的非常好

错误分析

可以通过手动随机抽样分析一些数据，看哪类的数据它出错最多，从而做针对性改进。

也可以分析一些他分对的业务和没对的业务，从而得到他的不足

数据分布不一致

数据分布不一致会导致上面的分析存在问题，所以这时候需要引入类似train-dev机制来实现

迁移学习 transfer learning

典型的就是fine-tunning

多任务学习 Multi-task learning

同时做多个任务，并且这多个任务可以互相帮助

端到端的深度学习系统

好处

充分利用数据
设计简单

坏处

需要更多数据
无法利用手工设计的有效特征（在小数据的情况下他们可能是很有效的）

Reference

https://github.com/mbadry1/DeepLearning.ai-Summary

来自为知笔记(Wiz)

课程回顾-Structuring Machine Learning Projects的更多相关文章

课程三(Structuring Machine Learning Projects)，第一周（ML strategy（1）） —— 0.Learning Goals
Learning Goals Understand why Machine Learning strategy is important Apply satisficing and optimizin ...
课程三(Structuring Machine Learning Projects)，第一周（ML strategy（1）） —— 1.Machine learning Flight simulator:Bird recognition in the city of Peacetopia (case study)
[]To help you practice strategies for machine learning, the following exercise will present an in-de ...
课程三(Structuring Machine Learning Projects)，第二周（ML strategy（2）） —— 1.Machine learning Flight simulator：Autonomous driving (case study)
[中文翻译] 为了帮助您练习机器学习的策略, 在本周我们将介绍另一个场景, 并询问您将如何行动.我们认为, 这个工作在一个机器学习项目的 "模拟器" 将给一个任务, 告诉你一个机器 ...
课程三(Structuring Machine Learning Projects)，第二周（ML strategy（2）） —— 0.Learning Goals
Learning Goals Understand what multi-task learning and transfer learning are Recognize bias, varianc ...
《Structuring Machine Learning Projects》课堂笔记
Lesson 3 Structuring Machine Learning Projects 这篇文章其实是 Coursera 上吴恩达老师的深度学习专业课程的第三门课程的课程笔记. 参考了其他人的笔 ...
[C5] Andrew Ng - Structuring Machine Learning Projects
About this Course You will learn how to build a successful machine learning project. If you aspire t ...
吴恩达《深度学习》-课后测验-第三门课结构化机器学习项目（Structuring Machine Learning Projects）-Week1 Bird recognition in the city of Peacetopia (case study)( 和平之城中的鸟类识别(案例研究))
Week1 Bird recognition in the city of Peacetopia (case study)( 和平之城中的鸟类识别(案例研究)) 1.Problem Statement ...
Structuring Machine Learning Projects 笔记
1 Machine Learning strategy 1.1 为什么有机器学习调节策略当你的机器学习系统的性能不佳时,你会想到许多改进的方法.但是选择错误的方向进行改进,会使你花费大量的时间,但是 ...
吴恩达《深度学习》-第三门课结构化机器学习项目（Structuring Machine Learning Projects）-第一周机器学习（ML）策略（1）（ML strategy（1））-课程笔记
第一周机器学习(ML)策略(1)(ML strategy(1)) 1.1 为什么是 ML 策略?(Why ML Strategy?) 希望在这门课程中,可以教给一些策略,一些分析机器学习问题的方法, ...

随机推荐

linux下部署tomcat 上线jpress博客系统
tomcat Tomcat服务器是一个免费的开放源代码的Web应用服务器,属于轻量级应用服务器. tomcat有三个端口开始部署安装tomcat 第一步:下载tomcat 安装包 tomcat官网 ...
EC20指令测试
cat /dev/ttyUSB2 & echo -e "AT+CGMM\r\n" >/dev/ttyUSB2 //输出模块型号 echo -e "AT+ ...
pointer-events: none 的两个应用场景
简介 pointer-events: none 真是个神奇的属性. 该属性有什么用?借用 CSS3 pointer-events:none 应用举例及扩展的总结来说: pointer-events: ...
python之路(九)-函数装饰器
装饰器某公司的基础业务平台如下: def f1(): print('这是f1业务平台') def f2(): print('这是f2业务平台') def f3(): print('这是f3业务平台' ...
java集成memcached、redis防止缓存穿透
下载相关jar,安装Memcached,安装教程:http://www.runoob.com/memcached/memcached-install.html spring配置memcached &l ...
【洛谷P2584】【ZJOI2006】GameZ游戏排名系统题解
[洛谷P2584][ZJOI2006]GameZ游戏排名系统题解题目链接题意: GameZ为他们最新推出的游戏开通了一个网站.世界各地的玩家都可以将自己的游戏得分上传到网站上.这样就可以看到自己在 ...
IO模型的介绍
Stevens 在文章中的一种IO Model: ****blocking IO #阻塞 IO (系统调用不返回结果并让当前线程一直阻塞,只有当该系统调用获得结果或者超时出错才返回) *** ...
OC数组的简单使用、NSArray
和上一篇文章一样,数组的重要性不言而喻,在OC编程的过程中我们会不断的使用到NSArray,和C语言不同的是,我们这里的数组只能存OC对象类型,不能存C语言基本数据类型,也不能存NSNull类型,但是 ...
display:inline-block; 在css中是什么意思?
inline-block主要的用处是用来处理行内非替换元素的高宽问题的!行内非替换元素,比如span.a等标签,正常情况下士不能设置宽高的,加上该属性之后,就可以触发让这类标签表现得如块级元素一样,可 ...
ByteArrayInputStream
package org.example.io; import java.io.ByteArrayInputStream;import java.io.IOException; /** * ByteAr ...

课程回顾-Structuring Machine Learning Projects