上节回顾深度学习与人类语言处理-语音识别(part2)，这节课我们接着看seq2seq模型怎么做语音识别

上节课我们知道LAS做语音识别需要看完一个完整的序列才能输出，把我们希望语音识别模型可以在听到声音的时候就进行输出，一个直观的想法就是用单向的RNN，我们来看看CTC是怎么做的

CTC

根据上面说的，在线语音识别，模型在听到声音的时候就需要输出，我们看下使用RNN的基本架构

input: 长度为T的声学特征

Encoder：单向RNN

ouput：长度为T的token,每一个输出位置对应词典中每个词的概率

但是对每一个输入的声学特征不总是会有对应的输出token，每一声学特征所包含的信息是非常少的，所以CTC在输出的词汇表中加入了一个标记\(\phi\)，表示什么也没有，词典大小变为V+1

ouput：长度为T的token,其中包括 												


											
深度学习与人类语言处理-语音识别(part3)的更多相关文章
	

    
								
  1. 深度学习与人类语言处理-语音识别(part1)
		
    语音识别 语音识别该何去何从? 1969年,J.R. PIERCE:"语音识别就像把水变成汽油.从大海中淘金.治疗癌症.人类登陆月球" 当然,这是50年前的想法,那么语音识别该如何 ...
    
		
    2. 
						
  2. 深度学习与人类语言处理-语音识别(part2)
		
    上节回顾深度学习与人类语言处理-语音识别(part1),这节课我们将学习如何将seq2seq模型用在语音识别 LAS 那我们来看看LAS的Encoder,Attend,Decoder分别是什么 Lis ...
    
		
    3. 
						
  3. 李宏毅深度学习与人类语言处理-introduction
		
    深度学习与人类语言处理(Deep learning for Human Language Processing) 李宏毅老师深度学习与人类语言处理课程笔记,请看正文 这门课会学到什么? 为什么叫人类语 ...
    
		
    4. 
						
  4. 【PyTorch深度学习60分钟快速入门 】Part3：神经网络
		
      神经网络可以通过使用torch.nn包来构建. 既然你已经了解了autograd,而nn依赖于autograd来定义模型并对其求微分.一个nn.Module包含多个网络层,以及一个返回输出的方法f ...
    
		
    5. 
						
  5. R语言︱H2o深度学习的一些R语言实践——H2o包
		
    每每以为攀得众山小,可.每每又切实来到起点,大牛们,缓缓脚步来俺笔记葩分享一下吧,please~ --------------------------- R语言H2o包的几个应用案例 笔者寄语:受启发 ...
    
		
    6. 
						
  6. 碎片︱R语言与深度学习
		
    笔者:受alphago影响,想看看深度学习,但是其在R语言中的应用包可谓少之又少,更多的是在matlab和python中或者是调用.整理一下目前我看到的R语言的材料: ---------------- ...
    
		
    7. 
						
  7. [翻译]深度学习的机器（The learning machines）
		
    学习的机器 用大量的数据识别图像和语音,深度学习的计算机(deep-learning computers) 向真正意义上的人工智能迈出了一大步. Nicola Jones Computer Scien ...
    
		
    8. 
						
  8. Bengio最新博文：深度学习展望
		
    Bengio最新博文:深度学习展望 人类一直梦想着创造有智能的机器.早在第一台可编程计算机问世前100多年,发明家就对如何能让由连杆和齿轮组成的设备也变得更加智能这一命题充满好奇.后来,20世纪40年 ...
    
		
    9. 
						
  9. TensorFlow系列专题（三）：深度学习简介
		
    一.深度学习的发展历程 深度学习的起源阶段 深度学习的发展阶段 深度学习的爆发阶段 二.深度学习的应用 自然语言处理 语音识别与合成 图像领域 三．参考文献   一.深度学习的发展历程 作为机器学习最 ...
    
		
    10. 
		

	


随机推荐
	

    
									
  1. 关于JavaScript中bind、applay、call的区别
			
    在JavaScript中this的指向一直是一个困扰我们的问题,在JavaScript中this的指向是不固定的,但是我们可以通过使用bind().call().apply()来改变this的指向,但 ...
    
			
    2. 
						
  2. 暑假集训第六周contest1
			
    51Nod - 1413 权势二进制 题意:就是讲给出一个数n,让你求最少由多少个像0,1,10,11......这样的二进制数相加构成:样例n=9就是由9个二进制1相加组成,我不懂比赛的时候我为什么 ...
    
			
    3. 
						
  3. 通过zxing生成二维码
			
    二维码现在随处可见,在日常的开发中,也会经常涉及到二维码的生成,特别是开发一些活动或者推广方面的功能时,二维码甚至成为必备功能点.本文介绍通过 google 的 zxing 包生成带 logo 的二维 ...
    
			
    4. 
						
  4. 一劳永逸的解决AFNetworking3.0网络请求问题
			
    AFNetworking在iOS网络请求第三方库中占据着半壁江山,前段时间将AFNetworking进行了3.0版本的迁移,运用面向对象的设计将代码进行封装整合,这篇文章主要为还在寻找AFNetwor ...
    
			
    5. 
						
  5. 树的三种DFS策略(前序、中序、后序)遍历
			
    之前刷leetcode的时候,知道求排列组合都需要深度优先搜索(DFS), 那么前序.中序.后序遍历是什么鬼,一直傻傻的分不清楚.直到后来才知道,原来它们只是DFS的三种不同策略. N = Node( ...
    
			
    6. 
						
  6. js之构造函数的理解
			
    在JavaScript中,创建对象的方式包括两种:对象字面量和使用new表达式.对象字面量是一种灵活方便的书写方式,例如:   1 2 3 4 5 6 var o1 = {     p:”I’m in ...
    
			
    7. 
						
  7. 手写实现vue的MVVM响应式原理
			
    文中应用到的数据名词: MVVM   ------------------        视图-----模型----视图模型                三者与 Vue 的对应:view 对应 te ...
    
			
    8. 
						
  8. 46-Python深浅拷贝
			
    目录 一.引言 1.1 可变或不可变 二.拷贝 三.浅拷贝 深拷贝 一.引言 在python中,对象赋值实际上是对象的引用.当创建一个对象,然后把它赋给另一个变量的时候,python并没有拷贝这个对象 ...
    
			
    9. 
						
  9. Failed to open the key database file. c;\\User\\w\\Destop\\SecureCRT_FX6.5.3\\Config\\KnowHosts\\Hostsmap.txt这个问题的解决方法
			
    1.首先将这段错误在百度翻译上面查询一下,是什么意思,查询结果如下: 打开密钥数据库文件失败.C:\用户\ w \平台\ securecrt_fx6.5.3 \\ \\ \\ hostsmap.txt ...
    
			
    10. 
						
  10. 使用veloticy-ui生成文字动画
			
    前言 最近要实现一个类似文字波浪线的效果,使用了velocity-ui这个动画库,第一个感觉就是使用简单,代码量少,性能优异,在此简单介绍一下使用方法,并实现一个看上去不错的动画.具体使用方法可以点击 ...
    
			
    11.