神经网络的训练和测试 python

　　承接上一节，神经网络需要训练，那么训练集来自哪？测试的数据又来自哪？

　　《python神经网络编程》一书给出了训练集，识别图片中的数字。测试集的链接如下：

　　https://raw.githubusercontent.com/makeyourownneuralnetwork/makeyourownneuralnetwork/master/mnist_dataset/mnist_test_10.csv

为了方便，这只是一个小的测试集，才10个。

　　训练集链接：https://raw.githubusercontent.com/makeyourownneuralnetwork/makeyourownneuralnetwork/master/mnist_dataset/mnist_train_100.csv

这是包含100个数据的训练集。

　　训练集和测试集的每段的第一个字母是期望的数字，每段剩余的文本是表示这个数字的像素集合，为784个数据。为了计算，我们要把文本转化为数字进行存放。把第一个数据当作期望数据，剩余的784个数据当作输入。因此输入节点设为784个。输出节点设为10个，因为要识别的是10个数据0到9。隐藏层节点选为100个，并没有进行科学的计算。

　　

 import numpy
 import scipy.special
 import matplotlib.pyplot as plt
 import pylab
 # 神经网络类定义
 class NeuralNetwork():
     # 初始化神经网络
     def __init__(self, inputnodes, hiddennodes, outputnodes, learningrate):
         # 设置输入层节点，隐藏层节点和输出层节点的数量
         self.inodes = inputnodes
         self.hnodes = hiddennodes
         self.onodes = outputnodes
         # 学习率设置
         self.lr = learningrate
         # 权重矩阵设置 正态分布
         self.wih = numpy.random.normal(0.0, pow(self.hnodes, -0.5), (self.hnodes, self.inodes))
         self.who = numpy.random.normal(0.0, pow(self.onodes, -0.5), (self.onodes, self.hnodes))
         # 激活函数设置，sigmod()函数
         self.activation_function = lambda x: scipy.special.expit(x)
         pass

     # 训练神经网络
     def train(self,input_list,target_list):
         # 转换输入输出列表到二维数组
         inputs = numpy.array(input_list, ndmin=2).T
         targets = numpy.array(target_list,ndmin= 2).T
         # 计算到隐藏层的信号
         hidden_inputs = numpy.dot(self.wih, inputs)
         # 计算隐藏层输出的信号
         hidden_outputs = self.activation_function(hidden_inputs)
         # 计算到输出层的信号
         final_inputs = numpy.dot(self.who, hidden_outputs)
         final_outputs = self.activation_function(final_inputs)

         output_errors = targets - final_outputs
         hidden_errors = numpy.dot(self.who.T,output_errors)

         #隐藏层和输出层权重更新
         self.who += self.lr * numpy.dot((output_errors*final_outputs*(1.0-final_outputs)),
                                         numpy.transpose(hidden_outputs))
         #输入层和隐藏层权重更新
         self.wih += self.lr * numpy.dot((hidden_errors * hidden_outputs * (1.0 - hidden_outputs)),
                                         numpy.transpose(inputs))
         pass
     # 查询神经网络
     def query(self, input_list):
         # 转换输入列表到二维数组
         inputs = numpy.array(input_list, ndmin=2).T
         # 计算到隐藏层的信号
         hidden_inputs = numpy.dot(self.wih, inputs)
         # 计算隐藏层输出的信号
         hidden_outputs = self.activation_function(hidden_inputs)
         # 计算到输出层的信号
         final_inputs = numpy.dot(self.who, hidden_outputs)
         final_outputs = self.activation_function(final_inputs)

         return final_outputs

 # 设置每层节点个数
 input_nodes = 784
 hidden_nodes = 100
 output_nodes = 10
 # 设置学习率为0.3
 learning_rate = 0.3
 # 创建神经网络
 n = NeuralNetwork(input_nodes, hidden_nodes, output_nodes, learning_rate)

 #读取训练数据集 转化为列表
 training_data_file = open("D:/mnist_train_100.csv",'r')
 training_data_list = training_data_file.readlines();
 training_data_file.close()

 #训练神经网络
 for record in training_data_list:
     #根据逗号，将文本数据进行拆分
     all_values = record.split(',')
     #将文本字符串转化为实数，并创建这些数字的数组。
     inputs = (numpy.asfarray(all_values[1:])/255.0 * 0.99) + 0.01
     #创建用零填充的数组，数组的长度为output_nodes,加0.01解决了0输入造成的问题
     targets = numpy.zeros(output_nodes) + 0.01
     #使用目标标签，将正确元素设置为0.99
     targets[int(all_values[0])] = 0.99
     n.train(inputs,targets)
     pass

 #读取测试文件
 test_data_file = open("D:/mnist_test_10.csv",'r')
 test_data_list = test_data_file.readlines()
 test_data_file.close()

 all_values = test_data_list[0].split(',')
 print(all_values[0])  #输出目标值

 image_array = numpy.asfarray(all_values[1:]).reshape((28,28))
 print(n.query((numpy.asfarray(all_values[1:])/255.0*0.99)+0.01))#输出标签值
 plt.imshow(image_array,cmap='Greys',interpolation='None')#显示原图像
 pylab.show()

输出情况：

　　从结果可以看出，我们输入的目标值为7，结果中第7个标签所对应的值最大，表明了正确识别了目标值。和图片中的值一样。