Inception Module

googlenet的Inception Module

Idea 1: Use 1x1, 3x3, and 5x5 convolutions in parallel to capture a variety of structures Also add a parallel max pooling path

The problem: Computational Expense quickly balloons

理念1:通过用平行的1*1,3*3,5*5的卷积来捕捉多样性的图片结构(包括使用一个最大池化)

缺点:计算量激增。

Idea 2:Use 1x1 convolutional layers for dimensional reduction. - Limits computational blow up from increasing parameters - The 1x1 convolutions also use ReLUs, so provide an added element of non-linearity

理念2:通过1*1的卷积减少维度。=》效果为,减少了计算量,通过relus激活函数的使用增加了非线性元素,(应该是有利于反向传播计算梯度)

参考

https://staff.fnwi.uva.nl/t.e.j.mensink/rdg/slides/4deepdeep.pdf

1*1 convolution  1*1卷积的作用:

1*1的卷积核并不会降低长宽的维度,所以输入的128*128像素的图片还是128*128,但是可以在channel,或者说feature 第三维上来减少维度。

feature是我们提取的特征,比如说对一个128*128的图片做卷积3*3的卷积,步幅为1,padding我们使用same padding我们设定64个提取的特征,也就是最终输出的数据为128*128(对图片做一次处理)*64(次)。做1*1的卷积后,图片的长宽不变还是128*128,但是我们可以重新选定输出的特征,我们可以在此基础上选定特征为32,也就是在原先的基础上提取32个特征,那么参数就是
1*1*64*32.然后做3*3的卷积,特征选取为32,则参数为3*3*32*32.
如果我们不通过1*1的中间层,直接对128*128*64做3*3卷积,那么参数为3*3*64*32>1*1*64*32+3*3*32*32.
 

参考

http://blog.csdn.net/visionfans/article/details/48270327

https://groups.google.com/forum/#!topic/caffe-users/ElVispDaYSE

https://www.zhihu.com/question/27393324

GoogleNet tips的更多相关文章

  1. Mac上MySQL忘记root密码且没有权限的处理办法&workbench的一些tips (转)

    忘记Root密码肿么办 Mac上安装MySQL就不多说了,去mysql的官网上下载最新的mysql包以及workbench,先安装哪个影响都不大.如果你是第一次安装,在mysql安装完成之后,会弹出来 ...

  2. 【Tips】史上最全H1B问题合辑——保持H1B身份终级篇

    [Tips]史上最全H1B问题合辑——保持H1B身份终级篇 2015-04-10留学小助手留学小助手 留学小助手 微信号 liuxue_xiaozhushou 功能介绍 提供最真实全面的留学干货,帮您 ...

  3. layer.js中layer.tips

    <script src="~/Content/js/layer/layer.js"></script> layer.tips('名称不能为空', '#pro ...

  4. HTML 最简单的tips 怎么支持指定DIV显示提示信息

    <body> <style type="text/css"> a.link{position:relative;} a.link div.tips{ bor ...

  5. CSS:CSS使用Tips

    Css是前端开发中效果展现的主要部分之一,良好的Css书写习惯可以为实际的项目开发提高效率,也可以为实现良好的团队合作提供保证. 一般新手在使用Css的时候经常会犯一些错误,出现一些不经意的漏洞,如果 ...

  6. 【读书笔记】100个Switf必备tips

    声明 欢迎转载,但请保留文章原始出处:)  博客园:http://www.cnblogs.com 农民伯伯: http://over140.cnblogs.com 正文 1.Selector 在Swi ...

  7. 【转】40个良好用户界面Tips

    一个良好的用户界面应具有高转换率,并且易于使用.但要用户体验良好并不容易做到,下面我们整理了40个良好用户界面Tips,希望能对你有帮助! 1 尽量使用单列而不是多列布局 单列布局能够让对全局有更好的 ...

  8. 转:Eclipse Search Tips

    from:  https://github.com/ajermakovics/eclipse-instasearch/wiki/Eclipse-search-tips Eclipse Search T ...

  9. VS:101 Visual Studio 2010 Tips

    101 Visual Studio 2010 Tips Tip #1        How to not accidentally copy a blank line TO – Text Editor ...

随机推荐

  1. Raspberry pi之wifi设置-3

    1.配件套装里最好有wifi网卡,非常小如下图 插入Raspberry pi的USB口,用lsusb来查看USB设备列表如下 pi@raspberrypi~/Desktop $ lsusb Bus 0 ...

  2. 2015.05.14:codesmith

    安装: 安装好codesmith会有两个软件:一个编译器(CodeSmith Generator Explorer),一个生成工具(CodeSmith Generator Studio) 破解: 一般 ...

  3. java的基本程序设计之个人总结要点

    java的基本程序设计之个人总结要点 这是个人看完java核心卷一书之后,罗列的一些比较重要的点子,希望共享给大家. [数值类型] 1.从java7开始,加上前缀0b就可以写二进制数,例如:0b100 ...

  4. gulp使用笔记

    gulp简介 gulp 是基于 Nodejs 的自动任务运行器,能自动化地完成javascript/coffee/sass/less/html/image/css等文件的的测试.检查.合并.压缩.格式 ...

  5. java文件名更改一直是false,看看是否是文件打开没有关

    // 更改文件名称 public static void chenckFileName(String oldFile, String newFileName) { File file = new Fi ...

  6. SSH Tunneling

    把本地端口 local_port 转发到服务器 server2 的 remote_port 端口上, server1 和 server2可以是同一ip或者不同ip. ssh user@server1 ...

  7. template.js遍历对象的写法

    <!DOCTYPE html><html><head> <meta charset="utf-8"> <title>菜鸟 ...

  8. java类型占用字节数&类型转换

    1.整型类型              存储需求     bit数    取值范围      备注int                 4字节           4*8 short         ...

  9. Python 之Ajax

    1.使用Ajax在后台传递参数的示例 要使用Ajax传递参数,需要使用jquery,使用jquery需要注意以下几点. 1.建立static的目录,将jquery导入 2.在项目s13day18_dj ...

  10. C# 获取系统时间及时间格式

    --DateTime 数字型 System.DateTime currentTime=new System.DateTime(); 取当前年月日时分秒      currentTime=System. ...