Machine Learning - 笔记1

一、监督学习（supervised learning）

1.回归（regression）

        ①按我的理解来说，就是对于训练模型所用到的数据集，能够知道Input和Output的特征。比如，预测未来房价，我们给定了（房屋大小，房屋价格）这样一个形式的训练数据，给到模型完成训练后，我们再利用模型来对某一房屋的价格进行预测并得到一个预测结果。所以，回归模型即我们知道输入的数据有什么特征（房屋大小，房屋价格），以及我们要哪种结果类型的数据（房屋大小，预测价格）。

上面的例子中（房屋大小，房屋价格）相当于二维形式的数据，我们会将上面的“房屋大小” 用 \(x\) 表示，房屋价格用 \(y\) 表示，即 \((x,y)\)，然后预测结果用 \(\hat y\) 来表示。

②函数模型：寻找一个函数 \(f\) 可以计算出一条最佳拟合曲线，使得我们的训练数据尽可能多地被曲线覆盖或靠近曲线。

           下面是一个例子，比如函数模型：\(f(x) = wx + b\)。其中 \(w\) 和 \(b\) 也叫做系数或权重

③代价函数：

           首先，为什么会有代价函数？因为当我们的函数模型受到 \(w\) 和 \(b\) 的影响，即不同的 \(w\) 和 \(b\) 会得到一个不同的函数模型 \(f\) ，所以我们会试图寻找 \(w\) 和 \(b\) ，使得函数模型得到的曲线，能够尽可能覆盖或靠近训练数据集。因此，我们可以用 \(J(w,b)\) 来表示一个代价函数，即：$$J(w,b)=\sum_{i=0}^n \frac{1}{2n} * (\hat y - y)^2 $$

           那么这个函数的意义是什么？

           上方提到了 \(f\) 是尽可能覆盖或靠近训练集，所以说明 \(f\) 对应曲线上的点，和实际的训练集中的部分点会存在误差，我们的目的是为了让这个误差尽可能小，即找到一条合适的曲线，让预测数据更加接近实际值。所以，如何找到这条 \(f\) ？通过 \(f(x) = wx + b\) 的例子，我们知道了，通过找到最合适的 \(w\) 和 \(b\) 即可。所以 \(J(w,b)\) 函数的目的，就是通过上方的代价函数，来找到最合适的 \(w\) 和 \(b\) 。

2.分类（classification）：按我的理解，我们想要的输出结果不再是一个单一值，而是对数据进行分类。比如：我有关于伤风感冒的几位患者的检查数据，那么我们想要得到的结果不再是某一个预测值，而是想对数据进行分析并分类，比如个人A的数据推测出“患病”，个人B的数据推测出“无病”，此时的数据就有了两种不同的结果，“患病”和“无病”。这即是分类。

二、无监督学习（unsupervised learning）

1.聚类（clustering）：按我的理解，无监督学习是我们不知道Input和Output数据的具体特征。给到我一堆数据集，我事先并不知道这堆数据集的具体特征，比如上方预测房价的例子，我们知道数据是有“房价”和“房屋大小”两种标签，输出结果数据是“预测房价”的标签。而对于无监督学习来说，给定的数据集没有这些标签，即模型不会知道，这堆数据代表“房价”和“房屋大小”，输出数据是“预测房价”。因此，无监督学习相当于让模型自己去对数据集进行分析，找到这些数据集中的关联，进行分类，将数据集划分为一批一批带有相似特征的数据集群。比如：这里有一堆客户的个人数据，模型对数据进行分析，并将提取到的几个特征对客户进行分类，得到了比如喜欢吃蔬菜的客户群体A，喜欢吃肉的客户群体B，讨厌蔬菜的客户群体C。

三、线性回归模型

我的理解，即 $f$ 是一个线性函数的模型就是线性回归模型，比如上方的 $f(x) = wx + b$。

---