Learning Phrase Representations using RNN Encoder–Decoder for Statistical Machine Translation
1.主要完成的任务是能够将英文转译为法文,使用了一个encoder-decoder模型,在encoder的RNN模型中是将序列转化为一个向量。在decoder中是将向量转化为输出序列,使用encoder-decoder能够加入词语与词语之间的顺序信息。
2.另一个任务是将序列表达为一个向量,利用向量能够清楚的看出那些语义上相近的词聚集在一起。
3.在设计RNN的隐藏层时,在读入或产生序列加入了reset和update门,可以选择丢掉记忆信息和更新记忆信息,得到了更有意义的结果。
4.两个RNN网络共同训练最大化输入序列到输出序列的条件概率。另一方面提出相当复杂的隐含层,来提高内存容量和训练的简单性。
5.取得比较好的效果的原因是:1.能够抓住语言规律,并且语言表达保留了语义和句法结构。
6.训练好的模型可用来给定输入序列得到输出序列,对输入序列和输出序列打分。
Learning Phrase Representations using RNN Encoder–Decoder for Statistical Machine Translation的更多相关文章
- Deep Learning基础--理解LSTM/RNN中的Attention机制
		导读 目前采用编码器-解码器 (Encode-Decode) 结构的模型非常热门,是因为它在许多领域较其他的传统模型方法都取得了更好的结果.这种结构的模型通常将输入序列编码成一个固定长度的向量表示,对 ... 
- 自定义Encoder/Decoder进行对象传递
		转载:http://blog.csdn.net/top_code/article/details/50901623 在上一篇文章中,我们使用Netty4本身自带的ObjectDecoder,Objec ... 
- 比sun.misc.Encoder()/Decoder()的base64更高效的mxBase64算法
		package com.mxgraph.online; import java.util.Arrays; /** A very fast and memory efficient class to e ... 
- 论文笔记:Learning Attribute-Specific Representations for Visual Tracking
		Learning Attribute-Specific Representations for Visual Tracking AAAI-2019 Paper:http://faculty.ucmer ... 
- Netty自定义Encoder/Decoder进行对象传递
		转载:http://blog.csdn.net/top_code/article/details/50901623 在上一篇文章中,我们使用Netty4本身自带的ObjectDecoder,Objec ... 
- 论文解读(GraRep)《GraRep: Learning Graph Representations with Global Structural Information》
		论文题目:<GraRep: Learning Graph Representations with Global Structural Information>发表时间: CIKM论文作 ... 
- 对Neural Machine Translation by Jointly Learning to Align and Translate论文的详解
		读论文 Neural Machine Translation by Jointly Learning to Align and Translate 这个论文是在NLP中第一个使用attention机制 ... 
- 神经机器翻译 - NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE
		论文:NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE 综述 背景及问题 背景: 翻译: 翻译模型学习条件分布 ... 
- [笔记] encoder-decoder  NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE
		原文地址 :[1409.0473] Neural Machine Translation by Jointly Learning to Align and Translate (arxiv.org) ... 
随机推荐
- Linux上查看和修改字符集
			author :headsen chen date: 2018-05-14 16:20:30 一·查看字符集 字符集在系统中体现形式是一个环境变量,看当前终端使用字符集的有以下几种方式: 1: 1 ... 
- Android软键盘的隐藏显示研究
			http://winuxxan.blog.51cto.com/2779763/522810 全局推: android:windowSoftInputMode="adjustResize&qu ... 
- 一些VS2013的使用技巧(转载)
			1. Peek View 可以在不新建TAB的情况下快速查看.编辑一个函数的代码. 用法:在光标移至某个函数下,按下alt+F12. 然后在Peek窗口里可以继续按alt+F12.然后按ctrl+al ... 
- Struts2的OGNL的用法
			1 <%@ page language="java" import="java.util.*" pageEncoding="ISO-8859-1 ... 
- java递归构建菜单树
			package testSimple; import java.util.ArrayList; import java.util.List; public class BuildTree { publ ... 
- <2014 12 28> Some conclusions and thought recently
			Since last year August when I started to prepare for the IELTS examiation, it took one year's time f ... 
- UDP和TCP的主要特点
			UDP的主要特点是:(1)无连接:(2)尽最大努力交付:(3)面向报文:(4)无拥塞控制:(5)支持一对一.一对多.多对一和多对多的交互通信:(6)首部开销小(只有四个字段:源端口.目的端口.长度.检 ... 
- qemu进程页表和EPT的同步问题
			背景分析: 在之前分析EPT violation的时候,没有太注意qemu进程页表和EPT的关系,从虚拟机运行过程分析,虚拟机访存使用自身页表和EPT完成地址转换,没有用到qemu进程页表,所以也就想 ... 
- Data striping
			条带化是把连续的数据分割成相同大小的数据块,把每段数据分别写入到阵列中的不同磁盘上的方法. 当多个进程同时访问一个磁盘时,可能会出现磁盘冲突.大多数磁盘系统都对访问次数(每秒的 I/O 操作,IOPS ... 
- excel判断单元格包含指定内容的函数用=IF(COUNTIF(A1,"*内容*"),"0","1")
			前面我们聊过怎样将Excel包含某字符的单元格填充颜色,这边我们用另外一种方法来实现:excel判断单元格包含指定内容的函数 选中需要显示结果的单元格,假设我们要判断第一行第一列的单元格A1是否含有“ ... 
