《Python 机器学习》笔记（一）

赋予计算机学习数据的能力

涵盖：

1.机器学习的一般概念

2.机器学习方法的三种类型和基本术语

3.成功构建机器学习系统所需的模块

机器学习的三种不同方法

1.监督学习

2.无监督学习

3.强化学习

通过监督学习对未来事件进行预测

监督学习的主要目的是使用有类标的训练数据构建模型，我们可以使用训练得到的模型对未来数据进行预测。此外，术语监督是指训练数据集中的每个样本均有一个已知的输出项（类标label）

1.利用分类对类标进行预测

分类是监督学习的一个子类，其目的是基于对过往类标已知示例的观测与学习，实现对新样本类标的预测。这些类标是离散的、无序的值，他们可以视为样本的组别信息。

2.使用回归预测连续输出值

通过强化学习解决交互式问题

强化学习的目标是构建一个系统（Agent）,在与环境（environment）交互的过程中提高系统的性能。环境的当前状态信息中通常包含一个反馈(reward)信号，我们可以将强化学习视为与监督学习相关的一个领域。然而，在强化学习中，这个反馈值不是一个确定的类标或者连续类型的值，而是一个通过反馈函数产生的对当前系统行为的评价。通过与环境的交互，Agent可以通过强化学习来得到一系列行为，通过探索性的试错或者借助精心设计的激励系统使得正向反馈最大化。

通过无监督学习发现数据本身潜在的结构

1.通过聚类发现数据的子群

2.数据压缩中的降维

构建机器学习系统的蓝图

1.数据预处理

为了尽可能发挥机器学习算法的性能，往往对原始数据的格式等有一些特定的要求，但原始数据很少能达到此标准。因此，数据预处理是机器学习应用过程中必不可少的重要步骤之一。

某些属性间可能存在较高的关联，因此存在一定的数据冗余。在此情况下，使用数据降维技术将数据压缩到相对低维度的子空间是非常有用的。数据降维不仅能够使得所需的存储空间更小，而且还能够使学习算法运行得更快。

2.选择预测模型类型并进行训练

目前已经有多种不同大的机器学习算法用来解决不同的问题。“天下没有免费的午餐”中，我们可以总结出重要的一点：我们无法真正免费使用学习算法。举例来说：任何分类算法都有其内在的局限性，如果我们不对分类任务预先做一些设定，没有任何一个分类模型会比其他模型更具优势。

3.模型验证与使用未知数据及进行预测

在使用训练数据集构建出一个模型之后，可以采用测试数据集对模型进行测试，预测该模型在未知数据上的表现并对模型的泛化误差进行评估。如果我们对模型的评估结果表示满意，就可以使用此模型对以后新的未知数据进行预测。有一点需要注意，之前所提到的特征缩放、降维等步骤中所需的参数，只可以从训练数据集中获取，并能够应用于测试数据集及新的数据样本，但仅在测试集上对模型进行性能评估或许无法侦测模型是否被过度优化。