机器学习01：使用scikit-learn的线性回归预测Google股票

这是机器学习系列的第一篇文章。

本文将使用Python及scikit-learn的线性回归预测Google的股票走势。请千万别期望这个示例能够让你成为股票高手。下面按逐步介绍如何进行实践。

准备数据

本文使用的数据来自www.quandl.com网站。使用Python相应的quandl库就可以通过简单的几行代码获取到我们想要的数据。本文使用的是其中的免费数据。利用下面代码就可以拿到数据：

import quandl

df = quandl.get('WIKI/GOOGL')

其中WIKI/GOOGL是数据集的ID，可以在网站查询到。不过我发现新版本的Quandl要求用户在其网站注册获取身份信息，然后利用身份信息才能读取数据。这里用到的WIKI/GOOGL数据集属于旧版本接口提供的数据，不需要提供身份信息。

通过上面代码，我们把数据获取到，并存放在df变量中。默认地，Quandl获取到的数据以Pandas的DataFrame存储。因此你可以通过DataFrame的相关函数查看数据内容。如下图，使用print(df.head())可以打印表格数据的头几行内容。

预处理数据

从上面图片我们看到数据集提供了很多列字段，例如Open记录了股票开盘价、Close记录了收盘价、Volumn记录了当天的成交量。带Adj.前缀的数据应该是除权后的数据。

我们并不需要用到所有的字段，因为我们的目标是预测股票的走势，因此需要研究的对象是某一时刻的股票价格，这样的有比较性。所以我们以除权后的收盘价Adj. Close为研究对象来描述股票价格，也就是我们选择它作为将要被预测的变量。

接下来需要考虑关于什么变量跟股票价格有关。下面代码选取了几个可能影响Adj. Close变化的字段作为回归预测的特征，并对这些特征进行处理。详细步骤请阅读注释。

import math

import numpy as np

# 定义预测列变量，它存放研究对象的标签名

forecast_col = 'Adj. Close'

# 定义预测天数，这里设置为所有数据量长度的1%

forecast_out = int(math.ceil(0.01*len(df)))

# 只用到df中下面的几个字段

df = df[['Adj. Open', 'Adj. High', 'Adj. Low', 'Adj. Close', 'Adj. Volume']]

# 构造两个新的列

# HL_PCT为股票最高价与最低价的变化百分比

df['HL_PCT'] = (df['Adj. High'] - df['Adj. Close']) / df['Adj. Close'] * 100.0

# HL_PCT为股票收盘价与开盘价的变化百分比

df['PCT_change'] = (df['Adj. Close'] - df['Adj. Open']) / df['Adj. Open'] * 100.0

# 下面为真正用到的特征字段

df = df[['Adj. Close', 'HL_PCT', 'PCT_change', 'Adj. Volume']]

# 因为scikit-learn并不会处理空数据，需要把为空的数据都设置为一个比较难出现的值，这里取-9999，

df.fillna(-99999, inplace=True)

# 用label代表该字段，是预测结果

# 通过让与Adj. Close列的数据往前移动1%行来表示

df['label'] = df[forecast_col].shift(-forecast_out)

# 最后生成真正在模型中使用的数据X和y和预测时用到的数据数据X_lately

X = np.array(df.drop(['label'], 1))

# TODO 此处尚有疑问

X = preprocessing.scale(X)

# 上面生成label列时留下的最后1%行的数据，这些行并没有label数据，因此我们可以拿他们作为预测时用到的输入数据

X_lately = X[-forecast_out:]

X = X[:-forecast_out]

# 抛弃label列中为空的那些行

df.dropna(inplace=True)

y = np.array(df['label'])

上面代码难点在理解label列的是如何生成的以及有什么用。实际上这一列的第i个元素都是Adj. Close列的第i + forecast_out个元素。我想尝试用简单文字描述：这列的每个数据是真实统计中的未来forecast_out天的收盘价。利用这一列的数据作为线性回归模型的监督标准，让模型学习出规律，然后我们才能用之预测结果。

另外X = preprocessing.scale(X)这行代码对X的数据进行规范化处理，让X的数据服从正态分布。（PS. 但是，我发现这种处理让X的数据都发生了变化，因此无法理解这样做的原因，以及为什么不会影响模型学习的结果。有知道答案的麻烦留言告告知。）

线性回归

上面我们已经准备好了数据。可以开始构建线性回归模型，并让用数据训练它。

# scikit-learn从0.2版本开始废弃cross_validation，改用model_selection

from sklearn import preprocessing, model_selection, svm

from sklearn.linear_model import LinearRegression

# 开始前，先X和y把数据分成两部分，一部分用来训练，一部分用来测试

X_train, X_test, y_train, y_test = model_selection.train_test_split(X, y, test_size=0.2)

# 生成scikit-learn的线性回归对象

clf = LinearRegression(n_jobs=-1)

# 开始训练

clf.fit(X_train, y_train)

# 用测试数据评估准确性

accuracy = clf.score(X_test, y_test)

# 进行预测

forecast_set = clf.predict(X_lately)

print(forecast_set, accuracy)

上述几行代码就是使用scikit-learn进行线性回归的训练和预测过程。我们可以通过测试数据计算模型的准确性accuracy，并且通过向模型提供X_lately计算预测结果forecast_set。

我运行得到的结果如下：

需要注意到的这个准确性accuracy并不表示模型预测100天的数据有97天是正确的。它表示的是线性模型能够描述统计数据的信息的一个统计概念。在后续的文章我可能会对这个变量进行一些讨论。

绘制走势

最后我们使用matplotlib让数据可视化话。详细步骤看代码注释。

import matplotlib.pyplot as plt

from matplotlib import style

import datetime

# 修改matplotlib样式

style.use('ggplot')

one_day = 86400

# 在df中新建Forecast列，用于存放预测结果的数据

df['Forecast'] = np.nan

# 取df最后一行的时间索引

last_date = df.iloc[-1].name

last_unix = last_date.timestamp()

next_unix = last_unix + one_day

# 遍历预测结果，用它往df追加行

# 这些行除了Forecast字段，其他都设为np.nan

for i in forecast_set:

    next_date = datetime.datetime.fromtimestamp(next_unix)

    next_unix += one_day

    # [np.nan for _ in range(len(df.columns) - 1)]生成不包含Forecast字段的列表

    # 而[i]是只包含Forecast值的列表

    # 上述两个列表拼接在一起就组成了新行，按日期追加到df的下面

    df.loc[next_date] = [np.nan for _ in range(len(df.columns) - 1)] + [i]

# 开始绘图

df['Adj. Close'].plot()

df['Forecast'].plot()

plt.legend(loc=4)

plt.xlabel('Date')

plt.ylabel('Price')

plt.show()

运行代码可以得到下图。

上图红色部分为采集到的已有数据，蓝色部分为预测数据。

点击这里查看完整代码。

本文来自同步博客