Python线性回归算法【解析解，sklearn机器学习库】

一.概述

　　参考博客：https://www.cnblogs.com/yszd/p/8529704.html

二.代码实现【解析解】

 import numpy as np
 import matplotlib.pyplot as plt

 __author__ = 'zhen'

 # 这里相当于是随机X维度X1，rand是随机均匀分布
 X = 2 * np.random.rand(100, 1)
 # 人为的设置真实的Y一列，np.random.randn(100, 1)是设置error，randn是标准正太分布
 y = 3 + 6 * X + np.random.randn(100, 1)
 # 整合X0和X1
 X_b = np.c_[np.ones((100, 1)), X] #combine聚合两数据集
 # print(X_b)

 # 常规等式求解theta
 # invert
 theta_best = np.linalg.inv(X_b.T.dot(X_b)).dot(X_b.T).dot(y)
 print(theta_best)

 # 创建测试集里面的X1
 X_new = np.array([[0], [2]])
 X_new_b = np.c_[(np.ones((2, 1))), X_new]
 print(X_new_b)
 y_predict = X_new_b.dot(theta_best)
 print(y_predict)

 plt.plot(X_new, y_predict, 'r-')
 plt.plot(X, y, 'b.')
 plt.axis([0, 2, 0, 15])
 plt.show()

三.结果【解析解】

　　

　　可视化：

　　

四.代码实现【sklearn机器学习库】

 import numpy as np
 import matplotlib.pyplot as plt
 from sklearn.linear_model import LinearRegression

 __author__ = 'zhen'

 X = 2 * np.random.rand(100, 1)
 y = 3 + 6 * X + np.random.randn(100, 1)

 lin_reg = LinearRegression()
 lin_reg.fit(X, y)
 print(lin_reg.intercept_, lin_reg.coef_)

 X_new = np.array([[0], [2]])
 y_predict = lin_reg.predict(X_new)
 print(y_predict)

 # 可视化
 plt.plot(X_new, y_predict, 'r-')
 plt.plot(X, y, 'b.')
 plt.axis([0, 2, 0, 15])
 plt.show()

五.结果【sklearn机器学习库】

　　

　　可视化：

　　

六.总结

　　根据图示可以得出结论，使用解析解或者是sklearn机器学习库都可以得到大致的结论，所花费时间和达到的效率都比较类似。但这仅限于一元线性回归，当参数类别增加时，使用解析解会大大增加程序复杂程度和计算耗能，因此建议多使用sklearn库，并根据情况进行参数配置和优化。