全球名校AI课程库(38)| 马萨诸塞大学 · 自然语言处理进阶课程『Advanced Natural Language Processing』

课程介绍
自然语言处理 (NLP) 是一门关于如何教计算机理解人类语言的工程艺术和科学。NLP 作为一种人工智能技术,现在已经无处不在——我们可以与手机交谈、使用网络回答问题、在社交媒体中讨论,甚至在人类语言之间进行翻译。
CS685 马萨诸塞大学 NLP 进阶课程,广泛关注自然语言处理的深度学习方法,详细讲解前沿技术点与典型应用。课程重点是神经语言模型和迁移学习——这两者都极大地推动了最先进的技术。

课程基于 Pytorch 完成代码案例讲解,涵盖建模架构、训练目标和下游任务。手写重点与手敲代码的授课风格,能帮助大家更好地深入掌握相关知识。
课程适用于有兴趣了解 NLP 前沿研究进展和熟悉机器学习基础知识的计算机科学 / 语言学研究生。

课程讲师 Mohit Iyyer,是马萨诸塞大学计算机科学助理教授,研究领域为自然语言处理和机器学习,致力于使用深度学习在话语级别对语言进行建模。
课程主题
课程官网发布了课程主题,ShowMeAI 对其进行了翻译。
- Language modeling(语言模型)
- Neural language models(神经语言模型)
- Backpropagation(反向传播)
- Implementing a neural language model in PyTorch(在 PyTorch 中实现神经语言模型)
- Attention mechanisms(注意力机制)
- Transformers and sequence-to-sequence models(transformer和序列到序列模型)
- Transfer learning for NLP(NLP 的迁移学习)
- BERT(BERT)
- Question answering(问答系统)
- Better BERTs(BERT变种)
- Scaling up language modeling & GPT-3(扩展语言模型规模和 GPT-3)
- Text generation decoding and evaluation(文本生成解码和评估)
- Paraphrase generation(释义生成)
- Crowdsourced text data collection(众包文本数据收集)
- Model distillation and security threats(模型蒸馏和抽取)
- Retrieval-augmented language models(基于检索增强的语言模型)
- Implementing a Transformer(实现transformer)
- vision + language(视觉与语言模型)
- semantic parsing(语义解析)
课程资料 | 下载

扫描上方图片二维码,关注公众号并回复关键字 『CS685』,就可以获取整理完整的资料合辑啦!当然也可以点击 这里 查看更多课程的资料获取方式!

ShowMeAI 对课程资料进行了梳理,整理成这份完备且清晰的资料包:
- 课件&笔记。PDF文件。覆盖Lecture 1~21全部章节。
- 拓展阅读材料。PDF文件。20+课程推荐学习的相关论文。
课程视频 | B站
ShowMeAI 将视频上传至B站,并增加了中英双语字幕,以提供更加友好的学习体验。点击页面视频,可以进行预览。推荐前往 B站 观看完整课程视频哦!
全球名校AI课程合辑
- CS数学基础课程合辑:https://www.showmeai.tech/tutorials/38
- 计算机基础课程合辑:https://www.showmeai.tech/tutorials/29
- 机器学习课程合辑:https://www.showmeai.tech/tutorials/28
- 深度学习课程合辑:https://www.showmeai.tech/tutorials/77
- 自然语言处理课程合辑:https://www.showmeai.tech/tutorials/55
- 计算机视觉课程合辑:https://www.showmeai.tech/tutorials/73
- 强化学习课程合辑:https://www.showmeai.tech/tutorials/87
- AI生物医疗课程合辑:https://www.showmeai.tech/tutorials/74
- 其他名校AI课程合辑:https://www.showmeai.tech/tutorials/76
作者:ShowMeAI内容团队
阅读原文:https://www.showmeai.tech/article-detail/374
全球名校AI课程库(38)| 马萨诸塞大学 · 自然语言处理进阶课程『Advanced Natural Language Processing』的更多相关文章
- 吴恩达《深度学习》-第五门课 序列模型(Sequence Models)-第二周 自然语言处理与词嵌入(Natural Language Processing and Word Embeddings)-课程笔记
第二周 自然语言处理与词嵌入(Natural Language Processing and Word Embeddings) 2.1 词汇表征(Word Representation) 词汇表示,目 ...
- 斯坦福大学自然语言处理第四课“语言模型(Language Modeling)”
http://52opencourse.com/111/斯坦福大学自然语言处理第四课-语言模型(language-modeling) 一.课程介绍 斯坦福大学于2012年3月在Coursera启动了在 ...
- 课程五(Sequence Models),第二 周(Natural Language Processing & Word Embeddings) —— 2.Programming assignments:Emojify
Emojify! Welcome to the second assignment of Week 2. You are going to use word vector representation ...
- 课程五(Sequence Models),第二 周(Natural Language Processing & Word Embeddings) —— 1.Programming assignments:Operations on word vectors - Debiasing
Operations on word vectors Welcome to your first assignment of this week! Because word embeddings ar ...
- 课程五(Sequence Models),第二 周(Natural Language Processing & Word Embeddings) —— 0.Practice questions:Natural Language Processing & Word Embeddings
[解释] The dimension of word vectors is usually smaller than the size of the vocabulary. Most common s ...
- Natural Language Processing 课程,文章,论文
CS224n: Natural Language Processing with Deep Learning http://cs224d.stanford.edu/syllabus.html http ...
- 世界名校网络课程大盘点,美国大学CS专业十三大研究方向,世界50所知名大学提供开放课程
世界名校网络课程大盘点 加州大学伯克利分校http://webcast.berkeley.edu/ 加州大学伯克利分校与斯坦福大学. 麻省理工学院等一同被誉为美国工程科技界的学术 领袖,其常年位居 ...
- [MarsZ]程序猿谈大学之大学应该学好哪些课程
大家好,我是MarsZ,上次给大家带来了程序猿Mars谈大学之大学应该怎么过 ,反响还不错(……),这次继续给大家分析一下大学应该学好哪些课程. 首先必须说明两点:一,以下我说的仅代表个人观点.二,仅 ...
- 名校AI课推荐 | UC Berkeley《人工智能导论》
深度学习具备强感知能力但缺乏一定的决策能力,强化学习具备决策能力但对感知问题束手无策,因此将两者结合起来可以达到优势互补的效果,为复杂系统的感知决策问题提供了解决思路. 今天我们推荐这样一门课程--U ...
随机推荐
- 关于rt-thread调度器实现的底层代码分析
本文使用了rt-thread自带的钩子函数和显示函数进行了实验,从rt-thread自带的延时函数rt_thread_delay()函数入手,对rt-thread系统的调度器进行分析.主要参考资料 ...
- Java-往数据库插入日期
Java-往数据库中插入日期 将字符串类型的时间转换成mysql的日期格式 String str = "2022-6-11"; SimpleDateFormat sdf = new ...
- python进阶__用socket封装TCP
想要理解socket协议,点击链接,出门左转 一.TCP 通信的服务器端编程的基本步骤: 服务器端先创建一个 socket 对象. 服务器端 socket 将自己绑定到指定 IP 地址和端口. 服务器 ...
- WebGPU实现Ray Packet
大家好~本文在如何用WebGPU流畅渲染百万级2D物体?基础上进行优化,使用WebGPU实现了Ray Packet,也就是将8*8=64条射线作为一个Packet一起去访问BVH的节点.这样做的好处是 ...
- WinUI(WASDK)项目实践——优雅的开发上位机应用(新)
摘要 这就是一个记录自己进行WinUI项目实践的博客,项目开源地址如下,觉得有帮助的可以去看看,因为项目都开源了,所以保姆级的讲解肯定不如直接看代码来的实在了. 电子脑壳项目地址 为什么叫新 因为之前 ...
- torch.max与torch.argmax
形式: torch.max(input) → Tensor 返回输入tensor中所有元素的最大值: a = torch.randn(1, 3) >>0.4729 -0.2266 -0.2 ...
- 从代码到发包,一个程序全搞定!Gitea 推出软件包自托管功能 Package Registry
2022 年 7 月的最后一天,随着 Gitea 1.17.0 版本的正式发布,Gitea 开源社区推出了一项名为 Package Registry 的包管理功能,与 Gitea 代码仓库无缝集成,类 ...
- 解决swiper组件autoplay报错问题
最近在自定义一个swiper 插件 发现引用之后不定时一直在报错 Uncaught TypeError: Cannot read properties of undefined (reading 'a ...
- 合理编写C++模块(.h、.cc)
模块划分 合理编写模块的 demo.h.demo.cc 下例为C++为后端服务编写的探活检测服务 health_server.h #ifndef HEALTH_SERVER_H #define HEA ...
- Minio设置永久下载链接
目前了解到的有如下两种方法 建议采用第二种办法 第一种方法:设置Access Policy为public 不论文件是否已经操作过分享动作,只要存储桶中有这个文件就能通过如下形式直接访问: http:/ ...