[BPNN]BP神经网络概念

BP神经网络概念

BP神经网络的计算过程：

由正向计算过程和反向计算过程组成；

正向计算过程，输入模式从输入层经隐单元层逐层处理，并转向输出层，每一层神经元的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则转入反向计算，将误差信号沿原来的连接通路返回，通过修改各神经元的权值，使得误差信号最小；

---

1.正向计算

2.反向计算

• 误差传递

采用矩阵就算反向传递的误差：

•  权重更新

为了使网络计算的输出值与实际值趋近，需要一个衡量标准，该标准就是这个误差值，而计算输出值是权重决定的，所以需要找到权重是怎样影响输出的，所以通过权重与误差进行求导，计算权重变化时的误差变化情况，找出误差随着权重变化的那个最小值对应的权重即要确定的权重；

求解误差变化率：

根据误差计算更新的权重值：

更新权重示例：

1）（tk-ok）=e1=0.8

2）S函数内的求和Σjwj,koj为（2.0×0.4）+（3.0 * 0.5）=2.3

3）sigmoid 1/(1+e -2.3) 为0.909。中间的表达式为0.909 *（1-0.909）=0.083

4）由于我们感兴趣的是权重w1,1，其中j=1，因此最后一项oj也很简单，也就是oj=1。此处，oj值就是0.4

5）将上项相乘，同时不要忘记表达式前的负号，最后我们得到-0.0265。如果学习率为0.1，那么得出的改变量为-（0.1 * -0.02650）=+0.002650。因此，新的w1,1就是原来的2.0加上0.00265等于2.00265

3.初始数据

• 输入：

0~1，不能为0,避免无学习能力；

• 输出：

0~1；

• 权重：

经验值：

±1/√n;n是一个节点传入链接数量传入链接数量，不能为0，否则无学习能力；