全球名校AI课程库(38)| 马萨诸塞大学 · 自然语言处理进阶课程『Advanced Natural Language Processing』

课程介绍
自然语言处理 (NLP) 是一门关于如何教计算机理解人类语言的工程艺术和科学。NLP 作为一种人工智能技术,现在已经无处不在——我们可以与手机交谈、使用网络回答问题、在社交媒体中讨论,甚至在人类语言之间进行翻译。
CS685 马萨诸塞大学 NLP 进阶课程,广泛关注自然语言处理的深度学习方法,详细讲解前沿技术点与典型应用。课程重点是神经语言模型和迁移学习——这两者都极大地推动了最先进的技术。

课程基于 Pytorch 完成代码案例讲解,涵盖建模架构、训练目标和下游任务。手写重点与手敲代码的授课风格,能帮助大家更好地深入掌握相关知识。
课程适用于有兴趣了解 NLP 前沿研究进展和熟悉机器学习基础知识的计算机科学 / 语言学研究生。

课程讲师 Mohit Iyyer,是马萨诸塞大学计算机科学助理教授,研究领域为自然语言处理和机器学习,致力于使用深度学习在话语级别对语言进行建模。
课程主题
课程官网发布了课程主题,ShowMeAI 对其进行了翻译。
- Language modeling(语言模型)
- Neural language models(神经语言模型)
- Backpropagation(反向传播)
- Implementing a neural language model in PyTorch(在 PyTorch 中实现神经语言模型)
- Attention mechanisms(注意力机制)
- Transformers and sequence-to-sequence models(transformer和序列到序列模型)
- Transfer learning for NLP(NLP 的迁移学习)
- BERT(BERT)
- Question answering(问答系统)
- Better BERTs(BERT变种)
- Scaling up language modeling & GPT-3(扩展语言模型规模和 GPT-3)
- Text generation decoding and evaluation(文本生成解码和评估)
- Paraphrase generation(释义生成)
- Crowdsourced text data collection(众包文本数据收集)
- Model distillation and security threats(模型蒸馏和抽取)
- Retrieval-augmented language models(基于检索增强的语言模型)
- Implementing a Transformer(实现transformer)
- vision + language(视觉与语言模型)
- semantic parsing(语义解析)
课程资料 | 下载

扫描上方图片二维码,关注公众号并回复关键字 『CS685』,就可以获取整理完整的资料合辑啦!当然也可以点击 这里 查看更多课程的资料获取方式!

ShowMeAI 对课程资料进行了梳理,整理成这份完备且清晰的资料包:
- 课件&笔记。PDF文件。覆盖Lecture 1~21全部章节。
- 拓展阅读材料。PDF文件。20+课程推荐学习的相关论文。
课程视频 | B站
ShowMeAI 将视频上传至B站,并增加了中英双语字幕,以提供更加友好的学习体验。点击页面视频,可以进行预览。推荐前往 B站 观看完整课程视频哦!
全球名校AI课程合辑
- CS数学基础课程合辑:https://www.showmeai.tech/tutorials/38
- 计算机基础课程合辑:https://www.showmeai.tech/tutorials/29
- 机器学习课程合辑:https://www.showmeai.tech/tutorials/28
- 深度学习课程合辑:https://www.showmeai.tech/tutorials/77
- 自然语言处理课程合辑:https://www.showmeai.tech/tutorials/55
- 计算机视觉课程合辑:https://www.showmeai.tech/tutorials/73
- 强化学习课程合辑:https://www.showmeai.tech/tutorials/87
- AI生物医疗课程合辑:https://www.showmeai.tech/tutorials/74
- 其他名校AI课程合辑:https://www.showmeai.tech/tutorials/76
作者:ShowMeAI内容团队
阅读原文:https://www.showmeai.tech/article-detail/374
全球名校AI课程库(38)| 马萨诸塞大学 · 自然语言处理进阶课程『Advanced Natural Language Processing』的更多相关文章
- 吴恩达《深度学习》-第五门课 序列模型(Sequence Models)-第二周 自然语言处理与词嵌入(Natural Language Processing and Word Embeddings)-课程笔记
第二周 自然语言处理与词嵌入(Natural Language Processing and Word Embeddings) 2.1 词汇表征(Word Representation) 词汇表示,目 ...
- 斯坦福大学自然语言处理第四课“语言模型(Language Modeling)”
http://52opencourse.com/111/斯坦福大学自然语言处理第四课-语言模型(language-modeling) 一.课程介绍 斯坦福大学于2012年3月在Coursera启动了在 ...
- 课程五(Sequence Models),第二 周(Natural Language Processing & Word Embeddings) —— 2.Programming assignments:Emojify
Emojify! Welcome to the second assignment of Week 2. You are going to use word vector representation ...
- 课程五(Sequence Models),第二 周(Natural Language Processing & Word Embeddings) —— 1.Programming assignments:Operations on word vectors - Debiasing
Operations on word vectors Welcome to your first assignment of this week! Because word embeddings ar ...
- 课程五(Sequence Models),第二 周(Natural Language Processing & Word Embeddings) —— 0.Practice questions:Natural Language Processing & Word Embeddings
[解释] The dimension of word vectors is usually smaller than the size of the vocabulary. Most common s ...
- Natural Language Processing 课程,文章,论文
CS224n: Natural Language Processing with Deep Learning http://cs224d.stanford.edu/syllabus.html http ...
- 世界名校网络课程大盘点,美国大学CS专业十三大研究方向,世界50所知名大学提供开放课程
世界名校网络课程大盘点 加州大学伯克利分校http://webcast.berkeley.edu/ 加州大学伯克利分校与斯坦福大学. 麻省理工学院等一同被誉为美国工程科技界的学术 领袖,其常年位居 ...
- [MarsZ]程序猿谈大学之大学应该学好哪些课程
大家好,我是MarsZ,上次给大家带来了程序猿Mars谈大学之大学应该怎么过 ,反响还不错(……),这次继续给大家分析一下大学应该学好哪些课程. 首先必须说明两点:一,以下我说的仅代表个人观点.二,仅 ...
- 名校AI课推荐 | UC Berkeley《人工智能导论》
深度学习具备强感知能力但缺乏一定的决策能力,强化学习具备决策能力但对感知问题束手无策,因此将两者结合起来可以达到优势互补的效果,为复杂系统的感知决策问题提供了解决思路. 今天我们推荐这样一门课程--U ...
随机推荐
- 有一个线性表,采用带头结点的单链表L来存储,设计一个算法将其逆置,且不能建立新节点,只能通过表中已有的节点的重新组合来完成。
有一个线性表,采用带头结点的单链表L来存储,设计一个算法将其逆置,且不能建立新节点,只能通过表中已有的节点的重新组合来完成. 分析:线性表中关于逆序的问题,就是用建立链表的头插法.而本题要求不能建立新 ...
- Util和Helper类
Util和Helper Util Util类,应该是一个无状态的类,只有静态方法. 比如在获取某些类的全局实例化对象的时候可以使用. public class ParamUtil { ... publ ...
- 宝塔面板服务器ip地址修改域名
参考博客:请点击百度 今天登录宝塔面板是突然忘记了服务器IP地址,从而导致了以下这种情况. 其实我以前是买过一个域名的,但是并没有绑定到宝塔上面.从而就一直拿IP登录宝塔面版.现在用命令方式更换域名, ...
- 因势而变,因时而动,Go lang1.18入门精炼教程,由白丁入鸿儒,Go lang泛型(generic)的使用EP15
事实上,泛型才是Go lang1.18最具特色的所在,但为什么我们一定要拖到后面才去探讨泛型?类比的话,我们可以想象一下给小学一年级的学生讲王勃的千古名篇<滕王阁序>,小学生有多大的概率可 ...
- 第三课:nodejs npm和vue
1.安装node js 2.node js给windows提供了一个可以直接执行js的环境{node提供翻译} 3.npm是包管理器 a.npm是nodejs的组成部分 b.管 包(package) ...
- Ros入门21讲
一.ROS是什么? ROS=通信机制+开发工具+应用功能+生态系统 目的:提高机器人研发中的软件复用率. 1.ROS中的通信机制 松耦合分布式通信: 注意:什么是耦合.紧耦合.松耦合? 1.1 耦合 ...
- Self-Attention:初步理解
Self-Attention 的基本结构与计算 Attention(注意力)实际上就是权重的另一种应用的称呼,其具体结构与初始输入的 content \(\vec{x_{1}}, \vec{x_{2} ...
- [机器学习]-分类问题常用评价指标、混淆矩阵及ROC曲线绘制方法
分类问题 分类问题是人工智能领域中最常见的一类问题之一,掌握合适的评价指标,对模型进行恰当的评价,是至关重要的. 同样地,分割问题是像素级别的分类,除了mAcc.mIoU之外,也可以采用分类问题的一些 ...
- 【gRPC】C++下使用CMakeLists快速构建项目
在gRPC中,编写.proto文件(protocol buffer文件)来定义RPC服务的接口是第一步 先通过proto的代码生成器编译生成pb.h.pb.cc.grpc.pb.h.grpc.pb.c ...
- CI/CD集成
文章转载自:https://kuboard.cn/guide/cicd/ 下图展示了当前比较典型的持续构建集成的一种做法. 在是否自动将最新版本部署到 Kubernetes 环境这个问题上,可能会有多 ...