R与数据分析旧笔记（八）多重共线性

多重共线性(线性代数叫线性相关) 多重共线性(线性代数叫线性相关) 1.什么是多重共线性 2.多重共线性对回归模型的影响 3.利用计算特征根发现多重共线性 4.Kappa()函数例题1 考虑一个有六个回归自变量的线性回归问题,原始数据列在下表中,这里共有12组数据,除第一组外,自变量的其余11组数据满足线性关系试用求矩阵条件数的方法,分析出自变量间存在多重共线性. 序号 1 10.006 8.000 1.000 1.000 1.000 0.541 -0.099 2 9.737 8.000 1…

R与数据分析旧笔记（十八完结）因子分析

因子分析因子分析降维的一种方法,是主成分分析的推广和发展是用于分析隐藏在表面现象背后的因子作用的统计模型.试图用最少的个数的不可测的公共因子的线性函数与特殊因子之和来描述原来观测的每一分量因子分析的主要用途减少分析变量的个数通过对变量间相关关系的探测,将原始变量分组,即将相关性高的变量分为一组,用共性因子来代替该变量使问题背后的业务因素的意义更加清晰呈现与主成分分析的区别主成分分析侧重"变异量",通过转换原始变量为新的组合变量使到数据的"变异量"最…

R与数据分析旧笔记（⑦）回归诊断

回归诊断回归诊断 1.样本是否符合正态分布假设? 2.是否存在离群值导致模型发生较大误差? 3.线性模型是否合理? 4.误差是否满足独立性.等方差.正态分布等假设条件? 5.是否存在多重共线性正态分布检验:函数shapiro.test() P>0.05,正态分布例题1 Anscomber数据数据 1-3 1 2 3 4 4 号 X Y Y Y X Y 1 10.0 8.04 9.14 7.46 8.0 6.58 2 8.0 6.95 8.14 6.77 8.0 5.76 3 13.0 7…

R与数据分析旧笔记（五）数学分析基本

R语言的各种分布函数 rnorm(n,mean=0,sd=1)#高斯(正态) rexp(n,rate=1)#指数 rgamma(n,shape,scale=1)#γ分布 rpois(n,lambda)#Poisson分布 rweibull(n,location=0,scale=1)#Weibull分布 rcauchy(n,location=0,scale=1)#Cauchy分布 rbeta(n,shape1,shape2)#β分布 rt(n,df)#t分布 rf(n,df1,df2)#F分布 r…

R与数据分析旧笔记（三）不知道取什么题目

连线图 > a=c(2,3,4,5,6) > b=c(4,7,8,9,12) > plot(a,b,type="l") 多条曲线效果 plot(rain$Tokyo,type="l",col="red",ylim=c(0,300), main="Monthly Rainfall in major cities", xlab="Month of Year", ylab="Rainf…

R与数据分析旧笔记（一）基本数学函数的使用

创建向量矩阵 > x1=c(2,3,6,8) > x2=c(1,2,3,4) > a1=(1:100) > length(a1) [1] 100 > length(x1) [1] 4 > mode(x1) [1] "numeric" > rbind(x1,x2) [,1] [,2] [,3] [,4] x1 2 3 6 8 x2 1 2 3 4 > cbind(x1,x2) x1 x2 [1,] 2 1 [2,] 3 2 [3,] 6 3…

R与数据分析旧笔记（十七）主成分分析

主成分分析主成分分析 Pearson于1901年提出的,再由Hotelling(1933)加以发展的一种多变量统计方法通过析取主成分显出最大的个别差异,也用来削减回归分析和聚类分析中变量的数目可以使用样本协方差矩阵或相关系数矩阵作为出发点进行分析成分的保留:Kaiser主张(1960)将特征值小于1的成分放弃,只保留特征值大于1的成分如果能用不超过3-5个成分就能解释变异的80%,就算是成功通过对原是变量进行线性组合,得到优化的指标把原先多个指标的计算降维为少量几个经过优化指标的计…

R与数据分析旧笔记（十六）基于密度的方法：DBSCAN

基于密度的方法:DBSCAN 基于密度的方法:DBSCAN DBSCAN=Density-Based Spatial Clustering of Applications with Noise 本算法将有足够高密度的区域划分为簇,并可以发现任何形状的聚类若干概念 r-邻域:给定点半径r内的区域核心点:如果一个点的r-邻域至少包含最少数目M个点,则称该点为核心点直接密度可达:如果点p在核心点q的r-邻域内,则称p是从q出发可以直接密度可达如果存在点链是从关于r和M直接密度可达 ,则称点p是…

R与数据分析旧笔记（十五）基于有代表性的点的技术：K中心聚类法

基于有代表性的点的技术:K中心聚类法基于有代表性的点的技术:K中心聚类法算法步骤随机选择k个点作为"中心点" 计算剩余的点到这个k中心点的距离,每个点被分配到最近的中心点组成聚簇随机选择一个非中心点,用它代替某个现有的中心点,计算这个代换的总代价S 如果S<0,则用代替,形成新的k个中心点集合重复2,直至中心点集合不发生变化 K中心法的实现:PAM PAM使用离差平方和来计算成本S(类似于ward距离的计算) R语言的cluster包实现了PAM K中心法的优点:对于&…

R与数据分析旧笔记（十三）聚类初步

聚类聚类关键度量指标:距离常用距离绝对值距离绝对值距离也称为"棋盘距离"或"城市街区距离". 欧氏(Euclide)距离闵可夫斯基(Minkowski)距离不难看出绝对值距离和Euclide距离是Minkowski距离的特例当各变量的单位不同或测量值的范围相差很大时,不应直接采用Minkowski距离,而应先对各变量的数据作标准化处理,然后再用标准化后的数据进行计算切比雪夫(Chebyshev)距离它是Minkowski距离中的情况马氏(Mah…

R与数据分析旧笔记（十一）数据挖掘初步

PART 1 PART 1 传统回归模型的困难 1.为什么一定是线性的?或某种非线性模型? 2.过分依赖于分析者的经验 3.对于非连续的离散数据难以处理网格方法 <Science>上的文章<Detecting Novel Associations in Large Data Sets> 方法概要:用网格判断数据的集中程度,集中程度意味着是否有关联关系方法具有一般性,即无论数据是怎样分布的,不限于特点的关联函数类型,此判断方法都是有效方法具有等效性,计算的熵值和噪音的程度有关,…

R与数据分析旧笔记（⑨）广义线性回归模型

广义线性回归模型广义线性回归模型例题1 R.Norell实验为研究高压电线对牲畜的影响,R.Norell研究小的电流对农场动物的影响.他在实验中,选择了7头,6种电击强度, 0,1,2,3,4,5毫安,每头牛被电击30下,每种强度5下,按随机的次序进行,然后重复整个实验,每头牛总共被电击60下.对每次电击,相应变量--嘴巴运动,或者出现,或者未出现.下表中的数据给出每种电击强度70次试验中响应的总次数.试分析电击对牛的影响电流(毫安) 试验次数响应次数响应的比例 0 70 0 0.0…

R与数据分析旧笔记（六）多元线性分析下

逐步回归向前引入法:从一元回归开始,逐步加快变量,使指标值达到最优为止向后剔除法:从全变量回归方程开始,逐步删去某个变量,使指标值达到最优为止逐步筛选法:综合上述两种方法多元线性回归的核心问题:应该选择哪些变量? RSS(残差平方和)与R2(相关系数平方)选择法:遍历所有可能的组合,选出使RSS最小,R2最大的模型 AIC(Akaike information criterion)准则和BIC(Bayesian information criterion)准则 AIC=n×ln(RSSP…

R与数据分析旧笔记（六）多元线性分析上

> x=iris[which(iris$Species=="setosa"),1:4] > plot(x) 首先是简单的肉眼观察数据之间相关性多元回归相较于一元回归的最主要困难可能就是变量的选择,如下面的例子使用Swiss数据集(R内置) Swiss Fertility and Socioeconomic Indicators(1888) Data 建立多元线性回归 > s=lm(Fertility~.,data=swiss) > print(s) Call…

R与数据分析旧笔记（四）画地图练习

> library(maps) > library(geosphere) 载入需要的程辑包:sp > map("state")#画美国地图 > map("world")#画世界地图 > xlim<-c(-171.738281,-56.601563) > ylim<-c(12.039321,71.856229) > map("world",col="#f2f2f2",fill…

R与数据分析旧笔记（二）随机抽样的一个综合例子

题目:模拟产生统计专业同学的名单(学号区分),记录数学分析.线性代数.概率统计三科成绩,然后进行一些统计分析 > num=seq(10378001,10378100) > num [1] 10378001 10378002 10378003 10378004 10378005 10378006 10378007 10378008 [9] 10378009 10378010 10378011 10378012 10378013 10378014 10378015 10378016 [17] 10…

R与数据分析旧笔记（十四）动态聚类：K-means

动态聚类:K-means方法动态聚类:K-means方法算法选择K个点作为初始质心将每个点指派到最近的质心,形成K个簇(聚类) 重新计算每个簇的质心重复2-3直至质心不发生变化 kmeans()函数 > X=iris[,1:4]> km=kmeans(X,3)> kmK-means clustering with 3 clusters of sizes 62, 50, 38Cluster means: Sepal.Length Sepal.Width Petal.Length…

R与数据分析旧笔记（十二）分类（支持向量机）

支持向量机(SVM) 支持向量机(SVM) 问题的提出:最优分离平面(决策边界) 优化目标决策边界边缘距离最远数学模型问题转化为凸优化拉格朗日乘子法--未知数太多 KKT变换和对偶公式问题的解决和神经网络化对偶公式是二次规划问题,有现成的数值方法可以求解大部分的拉格朗日乘子为0,不为0的对应于"支持向量"(恰好在边界上的样本点) 只要支持向量不变,修改其他样本点的值,不影响结果,当支持变量发生改变时,结果一般就会变化求解出拉格朗日乘子后,可以推出w和b,判别函数可以写成…

R与数据分析旧笔记（十）非线性模型

非线性模型非线性模型例子:销售额x与流通费率y > x=c(1.5,2.8,4.5,7.5,10.5,13.5,15.1,16.5,19.5,22.5,24.5,26.5)> y=c(7.0,5.5,4.6,3.6,2.9,2.7,2.5,2.4,2.2,2.1,1.9,1.8)> plot(x,y) 1.直线回归 > lm.1=lm(y~x)> summary(lm.1)Call:lm(formula = y ~ x)Residuals: Min 1Q Median 3…

R语言实战读书笔记(八)回归

简单线性:用一个量化验的解释变量预测一个量化的响应变量多项式:用一个量化的解决变量预测一个量化的响应变量,模型的关系是n阶多项式多元线性:用两个或多个量化的解释变量预测一个量化的响应变量多变量:用一个或多个解释变量预测多个响应变量 Logistic:用一个或多个解释变量预测一个类别型响应变量泊松:用一个或多个解释变量预测一个代表频数的响应变量 Cox比例风险:用一个或多个解释变量预测一个事件发生的时间时间序列:对误差项相关的时间序列数据建模非线性:用一个或多个量化的解释变量预测一个量…

《R实战》读书笔记二

第一章 R简单介绍本章概要 1安装R 2理解R语言 3执行R程序本章所介绍的内容概括例如以下. 一个典型的数据分析步骤如图1所看到的. 图1:典型数据分析步骤简而言之,现今的数据分析要求我们从多种数据源中获取数据.数据合并.标注.清洗和分析.而且把分析的结果进行展示,形成报告或者系统.辅助决策.R可以满足现今数据分析的要求. 为什么用R? R是一个适合统计分析和画图的环境与语言.它是开源.免费的.获得世界范围社区支持. 统计分析和画图工具已经非常多了.比如:SPSS.SAS.Excel,S…

R语言数据分析利器data.table包—数据框结构处理精讲

R语言数据分析利器data.table包-数据框结构处理精讲 R语言data.table包是自带包data.frame的升级版,用于数据框格式数据的处理,最大的特点快.包括两个方面,一方面是写的快,代码简洁,只要一行命令就可以完成诸多任务,另一方面是处理快,内部处理的步骤进行了程序上的优化,使用多线程,甚至很多函数是使用C写的,大大加快数据运行速度.因此,在对大数据处理上,使用data.table无疑具有极高的效率.这里我们主要讲的是它对数据框结构的快捷处理. 和data.frame的高度兼容…

《MFC游戏开发》笔记八游戏特效的实现(二)：粒子系统

本系列文章由七十一雾央编写,转载请注明出处. http://blog.csdn.net/u011371356/article/details/9360993 作者:七十一雾央新浪微博:http://weibo.com/1689160943/profile?rightmod=1&wvr=5&mod=personinfo 在游戏之中,大家经常看到火焰.爆炸.烟.水流.火花.落叶.云.雾.雪.尘.流星尾迹或者像发光轨迹这样的抽象视觉效果等等,这些效果看起来都非常绚丽,为游戏增添了不少美感,…

R语言数据分析系列六

R语言数据分析系列六 -- by comaple.zhang 上一节讲了R语言作图,本节来讲讲当你拿到一个数据集的时候怎样下手分析,数据分析的第一步.探索性数据分析. 统计量,即统计学里面关注的数据集的几个指标.经常使用的例如以下:最小值,最大值,四分位数,均值,中位数,众数,方差,标准差.极差,偏度,峰度先来解释一下各个量得含义,浅显就不说了,这里主要说一下不常见的众数:出现次数最多的方差:每一个样本值与均值的差得平方和的平均数标准差:又称均方差,是方差的二次方根.用来衡量一个数据集的…

Learning ROS forRobotics Programming Second Edition学习笔记(八)indigo rviz gazebo

中文译著已经出版,详情请参考:http://blog.csdn.net/ZhangRelay/article/category/6506865 Learning ROS forRobotics Programming Second Edition学习笔记(八)indigo rviz gazebo indigo PCL例子以及xtionpro live pcl --$ roslaunchrobot1_description display.launch model:="`rospack findr…