机器学习基石笔记：16 Three Learning Principles

三个理论上界：

三个线性模型：

三个关键工具：

三条学习规则：

1.奥卡姆剃刀定律

先从简单模型开始,

训练后出现欠拟合,

再尝试复杂点模型。

2.采样误差

训练、验证、测试数据尽量同分布。

3.数据偷看

找到折中方法。