underscorejs是一个很不错的类库,我的很多项目都引用了这个类库,的确可以带来很多方便. 记得我当初学的时候,看underscorejs的api是看的一知半解的,甚至不明白api里的context代表什么意思,当然现在已经明白了. 时间已经过去两年了,现在又回过来头看underscorejs,发现自己又学到了很多,但是也发现了很多不懂的地方. 这次我把看过的方法,写了比较详细的例子,帮助当初和一样初学underscorejs的朋友. 这一部分是underscorejs里处理集合的方法,后…

题意: Implement regular expression matching with support for '.' and '*'. '.' Matches any single character. '*' Matches zero or more of the preceding element. The matching should cover the entire input string (not partial). The function prototype shoul…

机器学习算法中如何选取超参数:学习速率.正则项系数.minibatch size 本文是<Neural networks and deep learning>概览 中第三章的一部分,讲机器学习算法中,如何选取初始的超参数的值.(本文会不断补充) 学习速率(learning rate,η) 运用梯度下降算法进行优化时,权重的更新规则中,在梯度项前会乘以一个系数,这个系数就叫学习速率η.下面讨论在训练时选取η的策略. 固定的学习速率.如果学习速率太小,则会使收敛过慢,如果学习速率太大,则会导致代价…

one epoch:所有的训练样本完成一次Forword运算以及一次BP运算 batch size:一次Forword运算以及BP运算中所需要的训练样本数目,其实深度学习每一次参数的更新所需要损失函数并不是由一个{data:label}获得的,而是由一组数据加权得到的,这一组数据的数量就是[batch size].当然batch size 越大,所需的内存就越大,要量力而行 iterations(迭代):每一次迭代都是一次权重更新,每一次权重更新需要batch size个数据进行Forward运…

转载:http://www.taikr.com/article/1847 在Cocos2d-x 3.x中,数学类Vec2.Size.Rect,是比较常用的类.比如设置图片位置,图片大小,两图片的碰撞检测等等.今天我们以Cocos2d-x 3.2版本为例,学习和总结一下这三个常用类. 比起2.x版本,在3.2版本中本质上其实没有太大的变化,主要的变化就是将全局宏定义相关的操作封装到各自的类中而已.比如:Vec2的向量运算宏定义ccp***(),现在都已经封装到Vec2类里面去了. [Vec2] V…

本文是<Neural networks and deep learning>概览 中第三章的一部分,讲机器学习算法中,怎样选取初始的超參数的值.(本文会不断补充) 学习速率(learning rate,η) 运用梯度下降算法进行优化时.权重的更新规则中,在梯度项前会乘以一个系数,这个系数就叫学习速率η. 以下讨论在训练时选取η的策略. 固定的学习速率. 假设学习速率太小,则会使收敛过慢.假设学习速率太大.则会导致代价函数振荡,例如以下图所看到的.就下图来说.一个比較好的策略是先将学习速率设置为…

相信各位在学习cnn的时候,常常对于卷积或者池化后所得map的的大小具体是多少,不知道怎么算.尤其涉及到边界的时候.   首先需要了解对于一个输入的input_height*input_widtht的图像,在卷积或者池化的时候,经常需要加padding,这是为了处理边界问题时而采用的一种方式,于是原输入就变成了下图所示:   对于输出的size计算 如下图: out_height=((input_height - filter_height + padding_top+padding_botto…

一起来学matlab-matlab学习笔记12 12_1 单元数组和元胞数组 cell array --cell,celldisp,iscell,isa,deal,cellfun,num2cell,size 觉得有用的话,欢迎一起讨论相互学习~Follow Me 单元数组(cellarray)和结构体(structure)都可以将不同类型的相关数据集成到一个单一的变量中,使得大量的相关数据的处理变得非常简单而且方便.但是,需要注意的是,单元数组和结构体只是承载其他数据类型的容器,大部分的数学运算…

一起来学matlab-matlab学习笔记11 11_3 高维数组处理和运算 filp, shiftdim, size, permute, ipermute 觉得有用的话,欢迎一起讨论相互学习~Follow Me filp 翻转元素顺序 语法 B = flip(A) B = flip(A,dim) 说明 B = flip(A) 返回的数组 B 具有与 A 相同的大小,但元素顺序已反转.B 中重新排序的维度取决于 A 的形状: 如果 A 为向量,flip(A) 将沿向量的长度方向反转元素顺序. 如…

batch 概念:训练时候一批一批的进行正向推导和反向传播.一批计算一次loss mini batch:不去计算这个batch下所有的iter,仅计算一部分iter的loss平均值代替所有的. 以下来源:知乎 作者:陈志远 链接:https://zhuanlan.zhihu.com/p/83626029著作权归作者所有.商业转载请联系作者获得授权,非商业转载请注明出处. (1) 不考虑bn的情况下,batch size的大小决定了深度学习训练过程中的完成每个epoch所需的时间和每次迭代(ite…