.dimshuffle 改变输入维度的顺序,返回原始变量的一个view. 输入是一个包含 $[0,1,...,ndim-1]$ 和任意数目的 $'x'$ 的组合: 例如: $('x')$:将标量变成 $1$ 维数组 $(0, 1)$:与原始的 $2$ 维数组相同 $(1, 0)$:交换 $2$ 维数组的两个维度,形状从 $N \times M$ 变 $M \times N$ $('x', 0)$:形状从 $N$ 变成 $1 \times N$ $(0, 'x')$:形状从 $N$ 变成 $N \…

theano中的dimshuffle函数用于对张量的维度进行操作,可以增加维度,也可以交换维度,删除维度. 注意的是只有shared才能调用dimshuffle() 'x'表示增加一维,从0d scalar到1d vector (0, 1)表示一个与原先相同的2D向量 (1, 0)表示将2D向量的两维交换 ('x', 0) 表示将一个1d vector变为一个1xN矩阵 (0, 'x')将一个1d vector变为一个Nx1矩阵 (2, 0, 1) -> AxBxC to CxAxB (2表示第…

theano 中的一个函数 sparse_block_dot; Function: for b in range(batch_size): for j in range(o.shape[1]): for i in range(h.shape[1]): o[b, j, :] += numpy.dot(h[b, i], W[iIdx[b, i], oIdx[b, j]]) Image Example Input Parameter - W (iBlocks, oBlocks, iSize, oSiz…

来自:http://deeplearning.net/software/theano/tutorial/printing_drawing.html Printing/Drawing Theano graphs Theano提供的函数theano.printing.pprint() 和 theano.printing.debugprint() 可以用来在编译前和后打印一个graph到终端上. pprint() 该函数更紧凑而且更偏向于数学形式, debugprint() 更为的详细. Theano…

使用了两个卷积层.一个全连接层和一个softmax分类器. 在测试数据集上正确率可以达到99.22%. 代码参考了neural-networks-and-deep-learning #coding:utf8 import cPickle import numpy as np import theano import theano.tensor as T from theano.tensor.nnet import conv from theano.tensor.nnet import softm…

(1) 定义计算过程中需要的symbolic expression """ 定义相关的symbolic experssion """ # convolution layer的输入,根据theano,它应该是一个4d tensor input = T.tensor4(name='input') # 共享权值W,它的shape为2,3,9,9 w_shp = (2,3,9,9);w_bound = numpy.sqrt(3*9*9) W = thea…

(1) evaluate _lenet5中的导入数据部分 # 导入数据集,该函数定义在logistic_sgd中,返回的是一个list datasets = load_data(dataset) # 从list中提取三个元素,每个元素都是一个tuple(每个tuple含有2个元素,分别为images数据和label数据) train_set_x, train_set_y = datasets[0] #训练集 valid_set_x, valid_set_y = datasets[1] #校验集…

图结构(Graph Structures)这是理解Theano该基金会的内部运作. Theano编程的核心是用符号占位符把数学关系表示出来. 图结构的组成部分 如图实现了这段代码: importtheano.tensor as T x= T.matrix('x') y= T.matrix('y') z= x + y 变量节点(variable nodes) 红色表示. 变量节点都有owner.当中x与y的owner为none. z的owner为apply. 操作节点(op nodes) 绿色表示…

写在前面的废话: 出了托福成绩啦,本人战战兢兢考了个97!成绩好的出乎意料!喜大普奔!撒花庆祝! 傻…………寒假还要怒学一个月刷100庆祝个毛线………… 正题: 题目是CNN,但是CNN的具体原理和之后会写一篇博客在deeplearning目录下详细说明. 简单地说,CNN与NN相比独特之处在于用部分连接代替全链接,并用pooling来对数据进行降维,这样做有几个好处: 对于大图像来说所需训练的参数大大减少 获取图像的部分特征而非全局特征 pooling使得网络的输出结果具有一定的平移和遮挡不变…

1.Theano中的scan函数 目前先弱弱的认为:相当于symbolic的for循环吧,或者说计算图上的for循环,也可以用来替代repeat-until. 与scan相比,scan_checkpoint减少了内存的使用,只保存最后一步的计算结果. 2.Theano中的shared变量 Variable with Storage that is shared between functions that it appears in.多个函数之间共享存储空间的变量--Theano的共享变量. S…