文档是这么写的: border_mode: str, int or tuple of two int Either of the following: ``'valid'``: apply filter wherever it completely overlaps with the input. Generates output of shape: input shape - filter shape + 1 ``'full'``: apply filter wherever it partl…

Transposed Convolution, 也叫Fractional Strided Convolution, 或者流行的(错误)称谓: 反卷积, Deconvolution. 定义请参考tutorial. 此处也是对tutorial中的theano实现做一个总结, 得到一段可用的Deconvolution代码. 反卷积(都这么叫了, 那我也不纠结这个了. )的实现方式之一是前向卷积操作的反向梯度传播过程, 所以在Theano中可使用theano.tensor.nnet.abstract_c…

来自:http://deeplearning.net/software/theano/tutorial/shape_info.html How Shape Information is Handled by Theano 当建立一个graph的时候,是没法严格的执行theano变量的shape的,因为在运行的时候将具体的值作为提供给一个theano函数的参数来说,也许会受到它graph中theano变量的shape的限制. 当前,有两种方式来使用shape信息: 当准确的输出shape已经提前知…

使用了两个卷积层.一个全连接层和一个softmax分类器. 在测试数据集上正确率可以达到99.22%. 代码参考了neural-networks-and-deep-learning #coding:utf8 import cPickle import numpy as np import theano import theano.tensor as T from theano.tensor.nnet import conv from theano.tensor.nnet import softm…

(1) 定义计算过程中需要的symbolic expression """ 定义相关的symbolic experssion """ # convolution layer的输入,根据theano,它应该是一个4d tensor input = T.tensor4(name='input') # 共享权值W,它的shape为2,3,9,9 w_shp = (2,3,9,9);w_bound = numpy.sqrt(3*9*9) W = thea…

(1) evaluate _lenet5中的导入数据部分 # 导入数据集,该函数定义在logistic_sgd中,返回的是一个list datasets = load_data(dataset) # 从list中提取三个元素,每个元素都是一个tuple(每个tuple含有2个元素,分别为images数据和label数据) train_set_x, train_set_y = datasets[0] #训练集 valid_set_x, valid_set_y = datasets[1] #校验集…

catalogue . 引言 . 一些基本概念 . Sequential模型 . 泛型模型 . 常用层 . 卷积层 . 池化层 . 递归层Recurrent . 嵌入层 Embedding 1. 引言 Keras是一个高层神经网络库,Keras由纯Python编写而成并基Tensorflow或Theano 简易和快速的原型设计(keras具有高度模块化,极简,和可扩充特性) 支持CNN和RNN,或二者的结合 支持任意的链接方案(包括多输入和多输出训练) 无缝CPU和GPU切换 0x1: Kera…

 Summary on deep learning framework --- Theano && Lasagne 2017-03-23 1. theano.function output = input ** 2  f = theano.function([input], output) print(f(3)) >> the output is: 3^2 = 9. 2.  verbose = 1 or 0, does it have any difference ?   so…

在单GPU下,所有这些工具集都调用cuDNN,因此只要外层的计算或者内存分配差异不大其性能表现都差不多. Caffe: 1)主流工业级深度学习工具,具有出色的卷积神经网络实现.在计算机视觉领域Caffe仍然是最流行的工具包,他有很多扩展,但是由于 一些遗留的架构问题,它对递归网络和语言建模的支持很差.此外,在caffe种图层需要使用C++定义,而网络则使用protobuf定义. 2)caffe支持pycaffe接口,但这仅仅是用来辅助命令行接口的,而即便是是使用pycaffe也必须使用Proto…

一  theano内置数据类型 只有thenao.shared()类型才有get_value()成员函数(返回numpy.ndarray)? 1. 惯常处理 x = T.matrix('x') # the data is presented as rasterized images y = T.ivector('y') # the labels are presented as 1D vector of [int] labels # reshape matrix of rasterized im…