https://blog.csdn.net/u011913612/article/details/79253450…

接上篇. 在(一)和(二)中,程序的体系是Net,Propagation,Trainer,Learner,DataProvider.这篇重构这个体系. Net 首先是Net,在上篇重新定义了激活函数和误差函数后,内容大致是这样的: List<DoubleMatrix> weights = new ArrayList<DoubleMatrix>(); List<DoubleMatrix> bs = new ArrayList<>(); List<Acti…

根据前篇博文<神经网络之后向传播算法>,现在用java实现一个bp神经网络.矩阵运算采用jblas库,然后逐渐增加功能,支持并行计算,然后支持输入向量调整,最后支持L-BFGS学习算法. 上帝说,要有神经网络,于是,便有了一个神经网络.上帝还说,神经网络要有节点,权重,激活函数,输出函数,目标函数,然后也许还要有一个准确率函数,于是,神经网络完成了: public class Net { List<DoubleMatrix> weights = new ArrayList<D…

孔子曰,吾日三省吾身.我们如果跟程序打交道,除了一日三省吾身外,还要三日一省吾代码.看代码是否可以更简洁,更易懂,更容易扩展,更通用,算法是否可以再优化,结构是否可以再往上抽象.代码在不断的重构过程中,更臻化境.佝偻者承蜩如是,大匠铸剑亦复如是,艺虽小,其道一也.所谓苟日新,再日新,日日新. 本次对前两篇文章代码进行重构,主要重构函数接口体系,和权重矩阵的封装. 简单函数 所说函数,是数学概念上的函数.数学上的函数,一般有一自变量$x$(输入)和对应的值$y=f(x)$(输出).其中$x$可以是…

接上篇. Net和Propagation具备后,我们就可以训练了.训练师要做的事情就是,怎么把一大批样本分成小批训练,然后把小批的结果合并成完整的结果(批量/增量):什么时候调用学习师根据训练的结果进行学习,然后改进网络的权重和状态:什么时候决定训练结束. 那么这两位老师儿长的什么样子,又是怎么做到的呢? public interface Trainer { public void train(Net net,DataProvider provider); } public interface…

上篇文章我们给出了用paddlepaddle来做手写数字识别的示例,并对网络结构进行到了调整,提高了识别的精度.有的同学表示不是很理解原理,为什么传统的机器学习算法,简单的神经网络(如多层感知机)都可以识别手写数字,我们要采用卷积神经网络CNN来进行别呢?CNN到底是怎么识别的?用CNN有哪些优势呢?我们下面就来简单分析一下.在讲CNN之前,为避免完全零基础的人看不懂后面的讲解,我们先简单回顾一下传统的神经网络的基本知识. 神经网络的预备知识      为什么要用神经网络? 特征提取的高效性.…

折腾了几天,爬了大大小小若干的坑,特记录如下.代码在最后面. 环境: Python3.6.4 + TensorFlow 1.5.1 + Win7 64位 + I5 3570 CPU 方法: 先用MNIST手写数字库对CNN(卷积神经网络)进行训练,准确度达到98%以上时,再准备独家手写数字10个.画图软件编辑的数字10个共计20个,让训练好的CNN进行识别,考察其识别准确度. 调试代码: 坑1:ModuleNotFoundError: No module named 'google' 解决:pi…

1. 知识点准备 在了解 CNN 网络神经之前有两个概念要理解,第一是二维图像上卷积的概念,第二是 pooling 的概念. a. 卷积 关于卷积的概念和细节可以参考这里,卷积运算有两个非常重要特性,以下面这个一维的卷积为例子: 第一个特性是稀疏连接.可以看到, layer m 上的每一个节点都只与 layer m-1 对应区域的三个节点相连接.这个局部范围也叫感受野.第二个特性是相同颜色的线条代表了相同的权重,即权重共享.这样做有什么好处呢?一方面权重共享可以极大减小参数的数目,学习起来更加有…

MNIST 手写数字识别 卷积神经网络 Pytorch框架 谨此纪念刚入门的我在卷积神经网络上面的摸爬滚打 说明 下面代码是使用pytorch来实现的LeNet,可以正常运行测试,自己添加了一些注释,方便查看. 代码实现 import torch import torch.nn as nn import torchvision import torchvision.transforms as transforms # Device configuration #这里是个python的三元表达式,…

边学习边笔记 https://www.cnblogs.com/felixwang2/p/9190602.html # https://www.cnblogs.com/felixwang2/p/9190602.html # TensorFlow(十):卷积神经网络实现手写数字识别以及可视化 import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data mnist = input_data.rea…