''' Created on 2017年9月13日 @author: weizhen ''' import numpy as np def sigmoid(x): return 1 / (1 + np.exp(-x)) 首先上来的是最简单的sigmoid激励函数, 至于为什么选他做激励函数, 1.因为这个函数能将定义域为(-inf,+inf)的值映射到(0,1)区间,便于计算(能够消除量纲的影响) 2.这个函数的变化曲线不是特变陡峭,每一点处都可导 3.这个函数的导数为y(1-y),即用他原来的…

使用在上一篇博客中训练好的wordvector 在这一节进行情感分析. 因为在上一节中得到的是一个词就是一个向量 所以一句话便是一个矩阵,矩阵的每一列表示一个词向量 情感分析的前提是已知一句话是 (超级消极,比较消极,中立,积极,非常积极)中的一类作为训练集分别用(0,1,2,3,4)进行表示 然后通过对每一句话的矩阵按列求均值,便得到一个维数固定的向量,用这个向量作为该句话的特征向量 然后将这个向量和该句话对应的label输入softmax层进行softmax回归计算. 最后训练得到的模型便是…

  今天将的还是cs224d 的problem set2 的第三部分习题, 原来国外大学的系统难度真的如此之大,相比之下还是默默地再天朝继续搬砖吧 下面讲述一下RNN语言建模的数学公式: 给出一串连续的词x1,x2...xt关于预测其后面紧跟的词xt+1的建模方式是: vj是词库中的某个词.实现一个循环神经网络,此网络利用隐层中的反馈信息对"历史记录"x1,x2...xt进行建模: $h^{(0)}=h_{0}\epsilon R^{D_{h}}$是隐藏层的初始化向量 $x^{(t)}…

Hi Dear Today we will use tensorflow to implement the softmax regression and linear classifier algorithm. not using the library of tensorflow (like tf.nn.softmax), but using tensorflow simple function to implement the softmax. The whole structure of…

1.Recursive Nerual Networks能够更好地体现每个词与词之间语法上的联系这里我们选取的损失函数仍然是交叉熵函数 2.整个网络的结构如下图所示: 每个参数的更新时的梯队值如何计算,稍后再给大家计算相应的数学公式 这里先列出节点的合并规则 1.即假设将一句话中的词先两个合并,并通过神经网络计算出合并后的得分情况 2.然后找出合并后得分最高的两个词进行真正的合并,得到新的节点,其余节点不合并 3.将得到的新节点加入到下一轮两两合并的计算过程中,直至得到最终节点 下面是计算的代码:…

神经网络在命名实体识别中的应用 所有的这些包括之前的两篇都可以通过tensorflow 模型的托管部署到 google cloud 上面,发布成restful接口,从而与任何的ERP,CRM系统集成. 天呀,这就是赤果果的钱呀.好血腥.感觉tensorflow的革命性意义就是能够将学校学到的各种数学算法成功地与各种系统结合起来. 实现了matlab一直不能与其他系统结合的功能,并且提供GPU并行计算的功能,简直屌爆了 理论上来讲像啥 运输问题,规划问题,极值问题.都可以通过tensorflow来…

1.Recursive Nerual Networks能够更好地体现每个词与词之间语法上的联系这里我们选取的损失函数仍然是交叉熵函数 2.整个网络的结构如下图所示: 每个参数的更新时的梯队值如何计算,稍后再给大家计算相应的数学公式 这里先列出节点的合并规则 1.即假设将一句话中的词先两个合并,并通过神经网络计算出合并后的得分情况 2.然后找出合并后得分最高的两个词进行真正的合并,得到新的节点,其余节点不合并 3.将得到的新节点加入到下一轮两两合并的计算过程中,直至得到最终节点 下面是计算的代码:…

参考 FileInputFormat类中split切分算法和host选择算法介绍  以及 Hadoop2.6.0的FileInputFormat的任务切分原理分析(即如何控制FileInputFormat的map任务数量)  以及 Hadoop中FileInputFormat计算InputSplit的getSplits方法的流程  以及 hadoop作业分片处理以及任务本地性分析(源码分析第一篇) 分析前先介绍一下: ( 这里要注意下, Block 的 hosts 和 Split 的 hosts…

小学生四则运算测试NABCD模型 组员:李新,朱浩龙,叶煜稳,陈俊金,林德麟 (1)  N (Need 需求) 需求分析: 四则运算是小学生学习数学的核心和基础,必须经过大量的练习才能熟练掌握,但是一味大量的做题,是一件 相当无聊的事.通常是老师编撰大量试卷,由学生纸上完成答卷,再由教师判卷,以此来达到练习的目的,但是长 此以往,这会变成一件相当枯燥的事.这种做法不仅消耗教师的精力和宝贵时间,而且效率低下,为此我们开发设 计这个四则运算测试程序,具体功能如下: 1.注册:让用户进行注册,存储用户…

1.操作系统是怎么组织进程的? 1.1什么是线程,什么是进程: 刚接触时可能经常会将这两个东西搞混.简单一点的说,进程是一个大工程,线程则是这个大工程中每个小地方需要做的东西(在linux下看作"轻量级进程"): 例如当你打开QQ微信,这时系统启动了一个进程.然后你开始看别人发的消息,这时启动了一个线程用来传输文本,如果发了一段语音,这也会启动一个线程来传输语音......(当然一个程序并不代表一定只有一个进程) 1.2进程内核栈与thread_info(用于存储进.线程及其信息等):…