正交化 Orthogonalization

简单的说就是有些调整是不相互影响的，所以可以分开做

单一评价指标

一般来说有一个单一数值作为评价指标会更好

如果存在多个指标，一般可以优化一个，其他几个满足一定条件就好

除了通用的一些指标，我们可以通过给样本加权的方式，使得获得更加适合我们应用的评价指标

保证训练、验证、测试的数据分布一致

不同的错误

任务的理论上限： bayes optimal error
人类的水平： human error

假设一个图像识别的任务

Humans	1%	7.5%
Training error	8%	8%
Dev Error	10%	10%

左边的例子，如果人类的错误率是1%，那么我们应该关注的是bias
右边的例子，如果说人类错误率是7.5%，那么我们应该关注的是variance
在这个例子中我们能够用人类错误率来代替理论上限是因为人类在图像识别的任务上做的非常好

错误分析

可以通过手动随机抽样分析一些数据，看哪类的数据它出错最多，从而做针对性改进。

也可以分析一些他分对的业务和没对的业务，从而得到他的不足

数据分布不一致

数据分布不一致会导致上面的分析存在问题，所以这时候需要引入类似train-dev机制来实现

迁移学习 transfer learning

典型的就是fine-tunning

多任务学习 Multi-task learning

同时做多个任务，并且这多个任务可以互相帮助

端到端的深度学习系统

好处

充分利用数据
设计简单

坏处

需要更多数据
无法利用手工设计的有效特征（在小数据的情况下他们可能是很有效的）

Reference

https://github.com/mbadry1/DeepLearning.ai-Summary

来自为知笔记(Wiz)

课程回顾-Structuring Machine Learning Projects的更多相关文章

课程三(Structuring Machine Learning Projects)，第一周（ML strategy（1）） —— 0.Learning Goals
Learning Goals Understand why Machine Learning strategy is important Apply satisficing and optimizin ...
课程三(Structuring Machine Learning Projects)，第一周（ML strategy（1）） —— 1.Machine learning Flight simulator:Bird recognition in the city of Peacetopia (case study)
[]To help you practice strategies for machine learning, the following exercise will present an in-de ...
课程三(Structuring Machine Learning Projects)，第二周（ML strategy（2）） —— 1.Machine learning Flight simulator：Autonomous driving (case study)
[中文翻译] 为了帮助您练习机器学习的策略, 在本周我们将介绍另一个场景, 并询问您将如何行动.我们认为, 这个工作在一个机器学习项目的 "模拟器" 将给一个任务, 告诉你一个机器 ...
课程三(Structuring Machine Learning Projects)，第二周（ML strategy（2）） —— 0.Learning Goals
Learning Goals Understand what multi-task learning and transfer learning are Recognize bias, varianc ...
《Structuring Machine Learning Projects》课堂笔记
Lesson 3 Structuring Machine Learning Projects 这篇文章其实是 Coursera 上吴恩达老师的深度学习专业课程的第三门课程的课程笔记. 参考了其他人的笔 ...
[C5] Andrew Ng - Structuring Machine Learning Projects
About this Course You will learn how to build a successful machine learning project. If you aspire t ...
吴恩达《深度学习》-课后测验-第三门课结构化机器学习项目（Structuring Machine Learning Projects）-Week1 Bird recognition in the city of Peacetopia (case study)( 和平之城中的鸟类识别(案例研究))
Week1 Bird recognition in the city of Peacetopia (case study)( 和平之城中的鸟类识别(案例研究)) 1.Problem Statement ...
Structuring Machine Learning Projects 笔记
1 Machine Learning strategy 1.1 为什么有机器学习调节策略当你的机器学习系统的性能不佳时,你会想到许多改进的方法.但是选择错误的方向进行改进,会使你花费大量的时间,但是 ...
吴恩达《深度学习》-第三门课结构化机器学习项目（Structuring Machine Learning Projects）-第一周机器学习（ML）策略（1）（ML strategy（1））-课程笔记
第一周机器学习(ML)策略(1)(ML strategy(1)) 1.1 为什么是 ML 策略?(Why ML Strategy?) 希望在这门课程中,可以教给一些策略,一些分析机器学习问题的方法, ...

随机推荐

shell逻辑运算总结, 包括[[]]与[]的区别，&&与-a的区别，||与-o的区别
1. 关于文件和目录 -f 判断某普通文件是否存在 -d 判断某目录是否存在 -b 判断某文件是否块设备 -c 判断某文件是否字符设备 -S 判断某文件是否socket(待修正) -L 判 ...
7.地图随机装饰,与转化过程补充,与ai的设计思路
这两天本来只想实现地图的随机装饰,然后发现以前的bin格式设计存在不足,所以最后不得不去改地图,并去重制整个地图的阶段,此篇总结这个过程先描述下bin结构首先地图由无数六边形组合,一个六边形由两层 ...
2019.03.26 bzoj4448: [Scoi2015]情报传递（归并排序+树链剖分）
传送门题意简述: 给一棵nnn个点的树,树上每个点表示一个情报员,一共有mmm天,每天会派发以下两种任务中的一个任务: 1．搜集情报:指派T号情报员搜集情报 2．传递情报:将一条情报从X号情报员传递 ...
spo0lsv病毒分析
1．样本概况 1.1 样本信息病毒名称:spo0lsv.exe 所属家族:Worm MD5值:512301C535C88255C9A252FDF70B7A03 SHA1值:CA3A1070CFF31 ...
fromdata上传多个文件
function upload_single_file(value){ if(value==''){ layer.msg('请添加文件',{time:1500}) }else{ var formDat ...
排序算法（sorting algorithm）之插入排序（insertion sort）
https://en.wikipedia.org/wiki/Insertion_sort loop1: 4,6,1,3,7 -> 4,6,1,3,7 loop2: 4,6,1,3,7 -> ...
算法学习笔记：knn理论介绍
阅读对象:了解指示函数,了解训练集.测试集的概念. 1.简介 knn算法是监督学习中分类方法的一种.所谓监督学习与非监督学习,是指训练数据是否有标注类别,若有则为监督学习,若否则为非监督学习.所谓K近 ...
C++ STL next_permutation(快速排列组合）
排列组合必备!! https://blog.csdn.net/bengshakalakaka/article/details/78515480
Python request库与爬虫框架
Requests库的7个主要方法 requests.request():构造一个请求,支持以下各方法的基础方法 requests.get():获取HTML网页的主要方法,对应于HTTP的GET ...
HDU 1846 巴什博奕
点这里去做题最简单的巴什博奕 ,凑m+1 #include<bits/stdc++.h> int main() { int T,n,r,m; scanf("%d",& ...

课程回顾-Structuring Machine Learning Projects