# -*- coding: utf-8 -*- import pandas as pd import matplotlib matplotlib.rcParams['font.sans-serif']=[u'simHei'] matplotlib.rcParams['axes.unicode_minus']=False from sklearn.tree import DecisionTreeClassifier from sklearn.model_selection import train

学习了SVM分类器的简单原理,并调用sklearn库,对40个线性可分点进行训练,并绘制出图形画界面. 一.问题引入 如下图所示,在x,y坐标轴上,我们绘制3个点A(1,1),B(2,0),C(2,3),其中A和B属于一类,C属于一类. 我们希望找到一条直线,将两个类分开来,且保持实线和两条虚线的距离最大,我们就能将两个类最大化分割开来.当然,我们还有很多其他直线的可以将两个点分割开来,但是这样分割效果最好. 当一个新的点进行预测时,根据点在直线的位置,判断所属分类.例如D(4,3)点在实线上方

官方英文文档地址:http://scikit-learn.org/dev/modules/generated/sklearn.linear_model.LogisticRegression.html#sklearn.linear_model.LogisticRegression 导包: from sklearn.linear_model import LogisticRegression 使用: classifier = LogisticRegression(solver='sag',max_i

sklearn库中的标准数据集与基本功能 下面我们详细介绍几个有代表性的数据集: 当然同学们也可以用sklearn机器学习函数来挖掘这些数据,看看可不可以捕捉到一些有趣的想象或者是发现: 波士顿房价数据集: 波士顿房价数据集包含506组数据,每条数据包含房屋以及房屋周围的详细信息.其中包含城镇犯罪率.一氧化氮浓度.住宅平均房间数.到中心区域的加权距离以及自住房平均房价等.因此,波士顿房价数据集能够应用到回归问题上. 这里是波士顿房价数据集的部分房价数据信息展示:例如:NOX这个属性代表一氧化氮的

sklearn库 sklearn是scikit-learn的简称,是一个基于Python的第三方模块.sklearn库集成了一些常用的机器学习方法,在进行机器学习任务时,并不需要实现算法,只需要简单的调用sklearn库中提供的模块就能完成大多数的机器学习任务. sklearn库是在Numpy.Scipy和matplotlib的基础上开发而成的,因此在介绍sklearn的安装前,需要先安装这些依赖库. Numpy库:Numpy(Numerical Python的缩写)是一个开源的Python科学

认识 sklearn 官网地址: https://scikit-learn.gor/stable/ 从2007年发布以来, scikit-learn已成为重要的Python机器学习库, 简称sklearn, 支持包括分类, 回归, 降维和聚类等机器学习算法, 还包括了特征提取, 数据处理, 模型评估三大模块. sklearn是Scipy的扩展, 建立在Numpy, Matplotlib..等库的基础上. 拥有完善的文档, 上手容易, API丰富, 同时封装了大量的机器学习算法, 且内置了大量数据

Python: sklearn库 —— 数据预处理 数据集转换之预处理数据:      将输入的数据转化成机器学习算法可以使用的数据.包含特征提取和标准化.      原因:数据集的标准化(服从均值为0方差为1的标准正态分布(高斯分布))是大多数机器学习算法的常见要求. 如果原始数据不服从高斯分布,在预测时表现可能不好.在实践中,我们经常进行标准化(z-score 特征减去均值/标准差). 一.标准化(Z-Score),或者去除均值和方差缩放 公式为:(X-mean)/std  计算时对每个属性

网上有很多关于sklearn的学习教程,大部分都是简单的讲清楚某一方面,其实最好的教程就是官方文档. 官方文档地址:https://scikit-learn.org/stable/ (可是官方文档非常详细,同时许多人对官方文档的理解和结构上都不能很好地把握,我也打算好好学习sklearn,这可能是机器学习的神器),下面先简单介绍一下sklearn. 自2007年发布以来,scikit-learn已经成为Python重要的机器学习库了,scikit-learn简称sklearn,支持包括分类,回归

DisCrete Versus Real AdaBoost 关于Discrete 和Real AdaBoost 可以参考博客:http://www.cnblogs.com/jcchen1987/p/4581651.html 本例是Sklearn网站上的关于决策树桩.决策树.和分别使用AdaBoost—SAMME和AdaBoost—SAMME.R的AdaBoost算法在分类上的错误率.这个例子基于Sklearn.datasets里面的make_Hastie_10_2数据库.取了12000个数据,其

几种分类器的基本调用方法 本节的目的是基本的使用这些工具,达到熟悉sklearn的流程而已,既不会设计超参数的选择原理(后面会进行介绍),也不会介绍数学原理(应该不会涉及了,打公式超麻烦,而且近期也没有系统的学习机器学习数学原理的计划,下学期可能会重拾cs229,当然如果在上课展示或者实验室任务中用到的特定方法还是很可能用博客记录一下的,笑). Logistic & SGDC '''Logistic & SGDC''' '''数据预处理''' import numpy as np impo

一直尝试在python3中安装pandas等一系列软件,但每次执行pip3 install pandas后就卡住不动了,一直停在那,开始以为是pip命令的版本不对,还执行过 python -m pip3 install -U pip3 升级命令,发现还是不行.有了上一篇python2中安装的经验可知肯定是numpy的版本不对,查看 /usr/lib/python3/dist-packages 目录下查看发现确实是1.8的版本,而从python2中的经验可知应该至少得1.9.0以上的版本. 1.

K最近邻(k-Nearest Neighbor,KNN)分类算法,是一个理论上比较成熟的方法,也是最简单的机器学习算法之一.该方法的思路是:如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别.谁和我隔得近,我就跟谁是一类,有点中国古语说的近墨者黑近朱者赤意思.KNN算法中,所选择的邻居都是已经正确分类的对象.该方法在定类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别. KNN方法虽然从原理上也依赖于极限定理,但在类

skleran-处理流程 获取数据 以用sklearn的内置数据集, 先导入datasets模块. 最经典的iris数据集作为例子. from sklearn import datasets iris = datasets.load_iris() # 导入数据集, json格式 X = iris.data # 获取特征向量 y = iris.target # 获取样本标签 print('特征向量:', X[:3]) print("样本标签:", y[40:60]) 特征向量: [[5.

SVM发展史 线性SVM=线性分类器+最大间隔 间隔(margin):边界的活动范围.The margin of a linear classifier is defined as the width that the boundary could be increased by before hitting a data point. 预备知识 线性分类器的分割平面(超平面):Wx+b=0 点到超平面的距离:\(M=\frac{ \vert g(x) \vert }{\left\|W\righ

Sklearn上关于决策树算法使用的介绍:http://scikit-learn.org/stable/modules/tree.html 1.关于决策树:决策树是一个非参数的监督式学习方法,主要用于分类和回归.算法的目标是通过推断数据特征,学习决策规则从而创建一个预测目标变量的模型.如下如所示,决策树通过一系列if-then-else 决策规则 近似估计一个正弦曲线. 决策树优势: 简单易懂,原理清晰,决策树可以实现可视化 数据准备简单.其他的方法需要实现数据归一化,创建虚拟变量,删除空白变量

Lasso回归: #-*- encoding:utf-8 -*- import numpy as np import matplotlib.pyplot as plt from sklearn.metrics import r2_score np.random.seed(42) n_samples,n_features=50,200 X=np.random.randn(n_samples,n_features) coef=3*np.random.randn(n_features) inds=np

为了解决数据的特征比样本点还多的情况,统计学家引入了岭回归. 岭回归通过施加一个惩罚系数的大小解决了一些普通最小二乘的问题.回归系数最大限度地减少了一个惩罚的误差平方和. 这里是一个复杂的参数,用来控制收缩量,其值越大,就有更大的收缩量,从而成为更强大的线性系数. Ridge和Line_Model一样,用fit(x,y)来训练模型,回归系数保存在coef_成员中 例子: 在这个例子使用岭回归作为估计器.结果中的每个颜色表示的系数向量的一个不同的功能,这是显示作为正则化参数的函数.在路径的最后,作

线性回归:通过拟合线性模型的回归系数W =(w_1,…,w_p)来减少数据中观察到的结果和实际结果之间的残差平方和,并通过线性逼近进行预测. 从数学上讲,它解决了下面这个形式的问题:      LinearRegression()模型在Sklearn.linear_model下,他主要是通过fit(x,y)的方法来训练模型,其中x为数据的属性,y为所属类型.线性模型的回归系数W会保存在他的coef_方法中. 例如: >>> from sklearn import linear_model

import numpy as np import sklearn.datasets #加载原数据 from sklearn.model_selection import train_test_split #分割数据 from matplotlib import pyplot as plt from sklearn.linear_model import LinearRegression #创建数据 def createdata(): boston = sklearn.datasets.load

Sklearn.model_selection(模型选择) Cross_val_score:交叉验证 Train_test_split:数据切割 GridsearchCV:网格搜索 Sklearn.metrics(覆盖了分类任务中大部分常用验证指标) Confusion_matrix(y_test,y_predict):混淆矩阵 Classification_report(y_test,y_predict):分类报告 Precision_score(test_y,prey):精确率 recall

思想: # 1.现将所有样本用交叉验证方法或者(随机抽样方法) 得到 K对 训练集-验证集# 2.依次对K个训练集,拿出数量不断增加的子集如m个,并在这些K*m个子集上训练模型.# 3.依次在对应训练集子集.验证集上计算得分.# 4.对每种大小下的子集,计算K次训练集得分均值和K次验证集得分均值,共得到m对值.# 5.绘制学习率曲线.x轴训练集样本量,y轴模型得分或预测准确率. 用到的方法: learning_curve #直接得到1个模型在不同训练集大小参数下:1.训练集大小 2.训练得分 3