菜鸟之路——机器学习之线性回归个人理解及Python实现

这一节很简单，都是高中讲过的东西

简单线性回归：y=b0+b1x+ε。b1=（Σ（xi-x^–）（y_i-y^–））/Σ（xi-x^–）ˆ2       b₀=y^--b₁x^-    其中ε取 为均值为0的正态分布

多元线性回归差不多

我自己写了程序，练习一下面向对象编程

 import numpy as np

 class SimpleLinearRegression:
     def __init__(self):
         self.b0=0
         self.b1=0

     def fit(self,X,Y):
         n=len(X)
         dinominator=0   #分母
         numeraor=0      #分子
         for i in range(0,n):
             numeraor+=(X[i]-np.mean(X))*(Y[i]-np.mean(Y))
             dinominator+=np.square((X[i]-np.mean(X)))
         self.b1=numeraor/float(dinominator)
         self.b0=np.mean(Y)-self.b1*np.mean(X)
         print("intercept:",self.b0,"   slope:",self.b1)
         print("y=",self.b0,"+",self.b1,"x")
     def predict(self,X):
         return self.b0+self.b1*X

 X=[1,3,2,1,3]
 Y=[14,24,18,17,27]

 SLR=SimpleLinearRegression()
 SLR.fit(X,Y)
 Y_predict=SLR.predict(6)
 print(Y_predict)

运行结果：

intercept: 10.0 slope: 5.0
y= 10.0 + 5.0 x
40.0

还有个多元线性回归的

 from sklearn import datasets,linear_model

 data=[[100,4,9.4],[50,3,4.8],[100,4,8.9],[50,2,4.2],[80,2,6.2],[75,3,7.4],[65,4,6],[90,3,7.6],[90,2,6.1]]
 data=np.array(data)
 print(data)

 X=data[:,:2]
 Y=data[:,-1]
 #print(X,"\n",Y)

 regr=linear_model.LinearRegression()

 regr.fit(X,Y)

 print("coefficients:",regr.coef_)
 print("intercept",regr.intercept_)

 Xpred=[[102,6]]
 Ypred=regr.predict(Xpred)
 print(Xpred,"Ypred:",Ypred)

这都太简单了，不多解释了。

一个知识点：

如果自变量有离散数据的话，就用分类器中用过的方法，有几类就转化为几组数据，是则为1，否则为0

今天还系统的入门了一下numpy，和pandas。等有时间了把numpy，pandas，还有matplotlib都系统的学一下。很有用的。