Python之（scikit-learn）机器学习

　　一、机器学习(Machine Learning, ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。

　　　　简而言之，机器学习就是通过一系列变种的数据公式，通过大量的数据推导，得出的接近于满足数据点的一个公式（f(x) = w1x1 + w2x2^2 + w3x3^3 + ...），然后需要推测的新数据，通过该公式来得出预测的结果。

　　

　　记住上面这个图，他是后续选择算法的规则，也是核心。

　　二、scikit-learn(简记sklearn)，是用python实现的机器学习算法库。sklearn可以实现数据预处理、分类、回归、降维、模型选择等常用的机器学习算法。sklearn是基于NumPy,matplotlib,SciPy而形成的。

　　　　scikit-learn的强大主要是它提供了很多算法库，以及数据处理的方式，学习scikit-learn很大程度上可以了解机器学习的实现、训练、预测过程。

　　三、在开始scikit-learn之前，我们先了解机器学习的流程：

　　　　1、原始数据：原始数据可以是很多种形式（比如：图片，json，文本，table等），这些数据可以通过pandas来加载成一个二维数组的数据。也可以通过numpy的方式生成数据。

　　　　　　　　　　  数据来源一般通过kaggle官方获取，地址：https://www.kaggle.com/

　　　　2、数据处理：得到原始数据过后，我们需要对数据进行处理（比如：数据分割（训练集、测试集），构造特征（比如：时间（年份一样，月份、天构造新的特征）），删除特征（没有用的，但是存在影响的特征）等）

　　　　3、特征工程：在数据进行处理过后，我们不能盲目的使用该数据（比如：文本数据，数值差异过大的数据），这个时候就要转换数据（转换器）。转换器：字典特征、文本特征、tf_idf（数据出现频次）、归一化、标准化、降维等，然后得出提取特征后的矩阵数据。

　　　　4、算法模型：（核心）主要分为监督学习和无监督学习。机器学习的核心就是算法模型。

　　　　　　　　　　  监督学习：有特征值，目标值（有标准答案）。常有算法为分类算法（离散型（具体的分类标准））、回归算法（连续型（预测值））

　　　　　　　　　　  无监督学习：只有特征值。常有算法为聚类。

　　　　　　　　　　  模型：数据在训练集和测试集上面，反复的训练过后，会得出最接近满足所有数据点的公式也称为模型，这个也是后续用于其他业务数据用于分类或者预测的基础。

　　　　5、算法评估：分类模型：一般是通过准确率、精准率、召回率、混淆矩阵、AUC来确认模型的准确度，回归模型：一般是通过均方误差的方式来确认准确度。

　　四、通过第三点的大致介绍，基本可以了解机器学习需要掌握的知识量还是不小的。特别是很多概念，需要自己去理解。下面主要是讲具体的过程和部分原理。（注意：算法是核心会放到最后讲）

　　　　（1）Python之原始数据-1

　　　　（2）Python之数据处理-2

　　　　（3）Python之特征工程-3

　　　　（4）Python之算法评估-4

　　　　（5）Python之算法模型-5.1

　　　　（6）Python之网格搜索与检查验证-5.2

　　　　（7）Python之模型的保存和加载-5.3

　　五、源码：https://github.com/lilin409546297/scikit_learn_demo

　　六、数据下载地址：

　　k_near/train.csv：https://www.kaggle.com/c/facebook-v-predicting-check-ins/data

　　decision_tree/titanic.csv：http://biostat.mc.vanderbilt.edu/wiki/pub/Main/DataSets/titanic.txt

　　market/orders.csv、order_products__prior.csv、products.csv、market/aisles.csv：https://www.kaggle.com/psparks/instacart-market-basket-analysis

　　classify_regression/breast-cancer-wisconsin.data：https://archive.ics.uci.edu/ml/machine-learning-databases/breast-cancer-wisconsin/