正交化 Orthogonalization

简单的说就是有些调整是不相互影响的，所以可以分开做

单一评价指标

一般来说有一个单一数值作为评价指标会更好

如果存在多个指标，一般可以优化一个，其他几个满足一定条件就好

除了通用的一些指标，我们可以通过给样本加权的方式，使得获得更加适合我们应用的评价指标

保证训练、验证、测试的数据分布一致

不同的错误

任务的理论上限： bayes optimal error
人类的水平： human error

假设一个图像识别的任务

Humans	1%	7.5%
Training error	8%	8%
Dev Error	10%	10%

左边的例子，如果人类的错误率是1%，那么我们应该关注的是bias
右边的例子，如果说人类错误率是7.5%，那么我们应该关注的是variance
在这个例子中我们能够用人类错误率来代替理论上限是因为人类在图像识别的任务上做的非常好

错误分析

可以通过手动随机抽样分析一些数据，看哪类的数据它出错最多，从而做针对性改进。

也可以分析一些他分对的业务和没对的业务，从而得到他的不足

数据分布不一致

数据分布不一致会导致上面的分析存在问题，所以这时候需要引入类似train-dev机制来实现

迁移学习 transfer learning

典型的就是fine-tunning

多任务学习 Multi-task learning

同时做多个任务，并且这多个任务可以互相帮助

端到端的深度学习系统

好处

充分利用数据
设计简单

坏处

需要更多数据
无法利用手工设计的有效特征（在小数据的情况下他们可能是很有效的）

Reference

https://github.com/mbadry1/DeepLearning.ai-Summary

来自为知笔记(Wiz)

课程回顾-Structuring Machine Learning Projects的更多相关文章

课程三(Structuring Machine Learning Projects)，第一周（ML strategy（1）） —— 0.Learning Goals
Learning Goals Understand why Machine Learning strategy is important Apply satisficing and optimizin ...
课程三(Structuring Machine Learning Projects)，第一周（ML strategy（1）） —— 1.Machine learning Flight simulator:Bird recognition in the city of Peacetopia (case study)
[]To help you practice strategies for machine learning, the following exercise will present an in-de ...
课程三(Structuring Machine Learning Projects)，第二周（ML strategy（2）） —— 1.Machine learning Flight simulator：Autonomous driving (case study)
[中文翻译] 为了帮助您练习机器学习的策略, 在本周我们将介绍另一个场景, 并询问您将如何行动.我们认为, 这个工作在一个机器学习项目的 "模拟器" 将给一个任务, 告诉你一个机器 ...
课程三(Structuring Machine Learning Projects)，第二周（ML strategy（2）） —— 0.Learning Goals
Learning Goals Understand what multi-task learning and transfer learning are Recognize bias, varianc ...
《Structuring Machine Learning Projects》课堂笔记
Lesson 3 Structuring Machine Learning Projects 这篇文章其实是 Coursera 上吴恩达老师的深度学习专业课程的第三门课程的课程笔记. 参考了其他人的笔 ...
[C5] Andrew Ng - Structuring Machine Learning Projects
About this Course You will learn how to build a successful machine learning project. If you aspire t ...
吴恩达《深度学习》-课后测验-第三门课结构化机器学习项目（Structuring Machine Learning Projects）-Week1 Bird recognition in the city of Peacetopia (case study)( 和平之城中的鸟类识别(案例研究))
Week1 Bird recognition in the city of Peacetopia (case study)( 和平之城中的鸟类识别(案例研究)) 1.Problem Statement ...
Structuring Machine Learning Projects 笔记
1 Machine Learning strategy 1.1 为什么有机器学习调节策略当你的机器学习系统的性能不佳时,你会想到许多改进的方法.但是选择错误的方向进行改进,会使你花费大量的时间,但是 ...
吴恩达《深度学习》-第三门课结构化机器学习项目（Structuring Machine Learning Projects）-第一周机器学习（ML）策略（1）（ML strategy（1））-课程笔记
第一周机器学习(ML)策略(1)(ML strategy(1)) 1.1 为什么是 ML 策略?(Why ML Strategy?) 希望在这门课程中,可以教给一些策略,一些分析机器学习问题的方法, ...

随机推荐

shell逻辑运算总结, 包括[[]]与[]的区别，&&与-a的区别，||与-o的区别
1. 关于文件和目录 -f 判断某普通文件是否存在 -d 判断某目录是否存在 -b 判断某文件是否块设备 -c 判断某文件是否字符设备 -S 判断某文件是否socket(待修正) -L 判 ...
HttpWebRequest.AddRange 支持long类型
很久很久以前,在哪个FAT32格式还流行的年代,文件大小普遍还没超过4G的年代,.Net已经出来了. 而那时候.Net实现的HTTP断点续传协议,还没预料到如此普及(我猜的).那时候的HttpWebR ...
vim编辑器中没有高亮显示，退格键不能使用的问题
在~/.vimrc下添加如下内容,立即生效
django学习,session与cookie
Cookies,某些网站为了辨别用户身份.进行session跟踪而储存在用户本地终端上的数据(通常经过加密).Cookie最早是网景公司的前雇员Lou Montulli在1993年3月的发明.Cook ...
P3398 仓鼠找sugar (一道LCA的裸题)
https://www.luogu.org/problemnew/show/P3398 题意简单概括一下就是求树上两条路径是否相交; 有这样一个性质: if相交,则必有lca(a,b) 在路径c &l ...
Unity使用代码动态给按钮赋值各个状态下的图片
一个小知识点,怕忘记,所以记录下.废话不多说,直接上代码: 未赋值之前: 使用下面代码赋值: using UnityEngine; using UnityEngine.UI; public class ...
命令更新emacs
sudo apt-add-repository -y ppa:adrozdoff/emacs sudo apt update sudo apt install emacs25
冒泡排序 cpp实现
#include<bits/stdc++.h> using namespace std; void Bubblesort(int a[],int n){ ;i<n-;i++){ ; ...
了解一下Ubuntu系统
百度百科: ubuntu系统基于Debian发行版和GNOME桌面环境.Ubuntu的目标在于为一般用户提供一个最新的.同时又相当稳定的主要由自由软件构建而成的操作系统,它可免费使用,并带有社团及专业 ...
git的认识2
我的GitHub 地址:https://github.com/lvjiaze130 唯一的感觉就是厉害了,还有看了一些个教学视频发现他们在git bush上打的东西我竟然都看不懂,是英文吗?太不好懂了 ...

课程回顾-Structuring Machine Learning Projects