NLP+语义分析(四)︱中文语义分析研究现状(CIPS2016、角色标注、篇章分析)
摘录自:CIPS2016 中文信息处理报告《第二章 语义分析研究进展、 现状及趋势》P14 CIPS2016>
中文信息处理报告下载链接:http://cips-upload.bj.bcebos.com/cips2016.pdf
任何对语言的理解都可以归为语义分析的范畴。一段文本通常由词、句子和段落来构成,根据理解对象的语言单位不同, 语义分析又可进一步分解为词汇级语义分析、句子级语义分析以及篇章级语义分析。
语义分析的目标就是通过建立有效的模型和系统, 实现在各个语言单位 (包括词汇、句子和篇章等) 的自动语义分析,从而实现理解整个文本表达的真实语义。
.
.
NLP词法、句法、语义、语篇综合系列:
NLP+词法系列(一)︱中文分词技术小结、几大分词引擎的介绍与比较
NLP+词法系列(二)︱中文分词技术及词性标注研究现状(CIPS2016)
NLP+句法结构(三)︱中文句法结构研究现状(CIPS2016)
NLP+语义分析(四)︱中文语义分析研究现状(CIPS2016)
NLP+语篇分析(五)︱中文语篇分析研究现状(CIPS2016)
一、词汇级
词汇层面上的语义分析主要体现在如何理解某个词汇的含义,主要包含两个方面:
- 第一,在自然语言中,一个词具有两种或更多含义的现象非常普遍。如何自动获悉某个词存在着多15种含义,以及假设已知某个词具有多种含义,如何根据上下文确认其含义,这些都是词汇级语义研究的内容。在自然语言处理领域,这又称为词义消歧。
- 第二,如何表示并学习一个词的语义,以便计算机能够有效地计算两个词之间的相似度。
1、词义消歧
词汇的歧义性是自然语言的固有特征。词义消歧根据一个多义词在文本中出现的上下文环境来确定其词义,作为各项自然语言处理的基础步骤和必经阶段被提出来。词义消歧包含两个必要的步骤:
( 1) 在词典中描述词语的意义;
( 2) 在语料中进行词义自动消歧。
详情见:cips2016+学习笔记︱NLP中的消岐方法总结(词典、有监督、半监督)
2、词嵌入
高级词向量三部曲:
1、NLP︱高级词向量表达(一)——GloVe(理论、相关测评结果、R&python实现、相关应用)
2、NLP︱高级词向量表达(二)——FastText(简述、学习笔记)
3、NLP︱高级词向量表达(三)——WordRank(简述)
.
.
二、句子级
1、浅层语义分析语义角色标注(SRL)
语义角色标注的任务明确,即给定一个谓词及其所在的句子,找出句子中该谓词的相应语义角色成分。语义角色标注的研究热点包括基于成分句法树的语义角色标注和基于依存句法树的语义角色标注。
以下以基于成分句法树的语义角色标注为例,任务的解决思路是以句法树的成分为单元,判断其是否担当给定谓词的语义角色。系统通常可以由三部分构成:
- 角色剪枝. 通过制定一些启发式规则,过滤掉那些不可能担当角色的成分。
- 角色识别. 在角色剪枝的基础上,构建一个二元分类器,即识别其是或不是给定谓词的语义角色。
- 角色分类. 对那些是语义角色的成分,进一步采用一个多元分类器,判断其角色类别。
在基于特征向量的方法中,最具有代表性的 7 个特征,包括成分类型( constituent type)、谓词子类框架( subcategorization)、成分与谓词之间的路径( parse tree path)、成分与谓词的位置关系( constituent position)、谓词语态( predicate voice)、成分中心词( constituent head word)和谓词本身( predicate)。
这7个特征随后被作为基本特征广泛应用于各类基于特征向量的语义角色标注系统中,同时后续研究也提出了其他有效的特征。
在角色识别和角色分类过程中, 无论是采用基于特征向量的方法,还是基于树核的方法,其目的都是尽可能准确地计算两个对象之间的相似度。基于特征向量的方法将结构化信息转化为平面信息, 方法简单有效; 缺点是在制定特征模板的同时, 丢弃了一些结构化信息。同样, 基于树核的方法有效解决了特征维数过大的问题, 缺点是在利用结构化信息的同时会包含噪音信息, 另外计算开销远大于基于特征向量的方法。
2、深层语义分析
浅层语义分析主要围绕着句子中的谓词,为每个谓词找到相应的语义角色将整个句子转化为某种形式化表示, 例如: 谓词逻辑表达式(包括 lambda 演算表达式)、基于依存的组合式语义表达式( dependency-based compositional semantic
representation) 等。 以下给出了 GeoQuery 数据集中的一个中英文句子对,以及对应的一阶谓词逻辑语义表达式:
- 中文: 列出 在 科罗拉多 州 所有 的 河流
- 英文: Name all the rivers in Colorado
- 语义表达式: answer(river(loc_2(stateid(‘colorado’))))
那么方法主要有三类:
- 基于知识库的语义分析(图谱?)。
知识库中通过三元组等形式记录了一系列的事实。对某个给定的句子,语义分析通过某种转换技术,将句子分析为一系列知识库中已定义的元组,并构成一个实体关系图。
- 有监督语义分析
有监督的语义分析需要人工标注的语义分析语料支持。在人工标注的语义分析语料中,为每个自然语言句子人工标注了其语义表达式。
- 半监督或无监督语义分析
无监督的语义分析方法不需要利用人工标注的语义分析语料,仅利用知识库(或数据库)
中的实体名/关系名等,也不利用知识库中的记录的事实。无监督的语义分析方法虽然不使
用人工标注的语料,但通常会采用 EM 算法,在每轮算法迭代中,对句子进行语义分析,并
且选择置信度高的句子及其语义分析结果作为自训练数据集
深度语义分析主要面临如下二个关键问题。
普通文本到实体/关系谓词之间的映射
自然语言的一个主要特点在于其表达形式的丰富多样性,对同样的表达意思(如某个语义表达式),不仅可以使用不同的语言进行表达。 如何建立普通文本到实体/关系之间的映射是一个关键问题。
面向开放领域的语义分析
受标注语料的限制,目前的很多语义分析研究都限于某一特定领域。随着面向开放领域的知识库的构建及完善,如 Freebase 等,人工大规模标注涉及各领域的语义表达式是个费时费力的过程。为此,需要探索基于半监督或无监督的语义分析研究。
.
.
三、篇章级
篇章是指由一系列连续的子句、句子或语段构成的语言整体单位,在一个篇章中,子句、句子或语段间具有一定的层次结构和语义关系,篇章结构分析旨在分析出其中的层次结构和语义关系。
目前的篇章语义分析主要还是围绕着判定子句与子句的篇章语义关系。
1、基于 Penn Discourse TreeBank 的篇章分析
一个基19于 PDTB 的端对端的篇章分析通常划分为四个子任务, 分别是:
( 1) 篇章连接词识别;
( 2)论元(Argument)识别;
( 3) 显式篇章关系识别;
( 4) 隐式篇章关系识别。
下面我们分别阐述这四个子任务。
2、基于 RST 的篇章分析
PDTB 是建立在宾州树库基础上的。基于 RST 的篇章分析主要包含有两个子任务: ( 1)篇章基本单元 (Element DiscourseUnit, 简称 EDU) 识别;( 2) 篇章结构生成,即对每一个过程的输出采用自底向上方法,为功能子句对确定一个最可能的修辞关系
3、中文篇章分析
- 基于 RST 体系的标注。
中国传媒大学和南京师范大学均分别基于英文 RST 框架标注了中文语料,但他们的研究都表明英文 RST 的很多篇章关系无法在中文中找到与之对应的关系
- 基于 PDTB 体系的标注。
哈尔滨工业大学发布了HIT-CDTB 篇 章 分 析 语 料 , 该 语 料 包 含 525 篇 标 注 文 本 , 语 料 文 本 来 源 于OntoNotes4.0,覆盖了句群关系、复句关系、分句关系等多级信息。整体上,HIT-CDTB还是参照了英文 PDTB 的标注体系。
- 基于连接依存树的标注。
苏州大学发布了基于连接依存树的中文篇章结构表示体系的中文篇章分析语料( Chinese Discourse TreeBank, CDTB),该标注体系借鉴了RST 和 PDTB 体系优点,并结合中文的特点。
.
延伸一:语义角色标注
自然语言分析技术大致分为三个层面:词法分析、句法分析和语义分析。语义角色标注是实现浅层语义分析的一种方式。在一个句子中,谓词是对主语的陈述或说明,指出“做什么”、“是什么”或“怎么样,代表了一个事件的核心,跟谓词搭配的名词称为论元。语义角色是指论元在动词所指事件中担任的角色。主要有:施事者(Agent)、受事者(Patient)、客体(Theme)、经验者(Experiencer)、受益者(Beneficiary)、工具(Instrument)、处所(Location)、目标(Goal)和来源(Source)等。
请看下面的例子,“遇到” 是谓词(Predicate,通常简写为“Pred”),“小明”是施事者(Agent),“小红”是受事者(Patient),“昨天” 是事件发生的时间(Time),“公园”是事情发生的地点(Location)。
语义角色标注(Semantic Role Labeling,SRL)以句子的谓词为中心,不对句子所包含的语义信息进行深入分析,只分析句子中各成分与谓词之间的关系,即句子的谓词(Predicate)- 论元(Argument)结构,并用语义角色来描述这些结构关系,是许多自然语言理解任务(如信息抽取,篇章分析,深度问答等)的一个重要中间步骤。在研究中一般都假定谓词是给定的,所要做的就是找出给定谓词的各个论元和它们的语义角色。
NLP+语义分析(四)︱中文语义分析研究现状(CIPS2016、角色标注、篇章分析)的更多相关文章
- NLP+语篇分析(五)︱中文语篇分析研究现状(CIPS2016)
摘录自:CIPS2016 中文信息处理报告<第三章 语篇分析研究进展.现状及趋势>P21 CIPS2016 中文信息处理报告下载链接:http://cips-upload.bj.bcebo ...
- NLP舞动之中文分词浅析(一)
一.简介 针对现有中文分词在垂直领域应用时,存在准确率不高的问题,本文对其进行了简要分析,对中文分词面临的分词歧义及未登录词等难点进行了介绍,最后对当前中文分词实现的算法原理(基于词表. ...
- VR的国内研究现状及发展趋势
转载请声明转载地址:http://www.cnblogs.com/Rodolfo/,违者必究. 一.国内研究现状 我国虚拟现实技术研究起步较晚,与发达国家还有一定的差距. 随着计算机图形学.计算机系统 ...
- python3 进一步了解装饰器 NLP第四条
还是先来抄一段NLP第四条: 四,只有感官经验塑造出来的世界,没有绝对的真实世界 每个人运用自己的感觉器官把资料摄入(摄入过程),由于感官运用是主观地有选择性的,因此不能,亦不需要把所有资料捕获. ...
- 语义SLAM研究现状总结
博客转载自:https://blog.csdn.net/xiaoxiaowenqiang/article/details/81051010 原文标题:深度学习结合SLAM 语义slam 语义分割 端到 ...
- RNA测序研究现状与发展
RNA测序研究现状与发展 1 2,584 A+ 所属分类:Transcriptomics 收 藏 通常来说,某一个物种体内所有细胞里含有的DNA都应该是一模一样的,只是因为每一种细胞里所表达的R ...
- Python进阶(十四)----空间角度研究类,类与类之间的关系
Python进阶(十四)----空间角度研究类,类与类之间的关系 一丶从空间角度研究类 对象操作对象属性 class A(): address = '沙河' def __init__(self, na ...
- nlp 总结 分词,词义消歧,词性标注,命名体识别,依存句法分析,语义角色标注
分词 中文分词 (Word Segmentation, WS) 指的是将汉字序列切分成词序列. 因为在汉语中,词是承载语义的最基本的单元.分词是信息检索.文本分类.情感分析等多项中文自然语言处理任务的 ...
- php中文语义分析
最近公司有个需求要做文章关键词提取,发现有个波森语义分析,还不错,把其http接口封装了一下, 发布到packagist上了. 简介 简单的封装了BosonNLP中文语义识别的api. 安装 comp ...
随机推荐
- Gitlab权限管理-issue管理[六]
标签(linux): git 笔者Q:972581034 交流群:605799367.有任何疑问可与笔者或加群交流 设置好密码后登录进入管理目录 创建组 设置组名和权限 创建用户 已有四个用户了 给p ...
- word文字覆盖问题
我们在编写word文档时,偶尔会遇到这个问题: 在一个段落中的某个位置修改文字时,直接就把后面的字体给覆盖了,导致后面的句子也不完整了. 解决经过: 之前遇到这种情况,非常恼火,直接新建一个word文 ...
- 安装php扩展phpredis
下载phpredis-master.tar.gz下载地址:http://pan.baidu.com/s/1i37R8TB 解包tar zxvf phpredis-master.tar.gzcd php ...
- BZOJ 1935: [Shoi2007]Tree 园丁的烦恼 [树状数组 离线 离散化]
传送门 刚才我还在郁闷网上怎么没人用$CDQ$分治做 突然发现根本没有时间序.... #include<iostream> #include<cstdio> #include& ...
- 本地Linux服务器上配置Git
当我们需要拉取远程服务器代码到本地服务器时,我们首先要确定已经配置了正确的Git账号,可以从~/.gitconfig文件(为隐藏文件,需要使用ls -a查看),以及~/.ssh下的id_rsa.pub ...
- 【翻译】我如何使用CSS来制作bitsofcode Logo动画
翻译文章,翻译不好,还望大家指出 原文地址:How I Animated the bitsofcode Logo with CSS 我是css动画的新手,这样说是因为我只在有限的案例中使用过他们,而且 ...
- 如何在Python中从零开始实现随机森林
欢迎大家前往云+社区,获取更多腾讯海量技术实践干货哦~ 决策树可能会受到高度变异的影响,使得结果对所使用的特定测试数据而言变得脆弱. 根据您的测试数据样本构建多个模型(称为套袋)可以减少这种差异,但是 ...
- IDEA设置优化
默认会开很多的功能,但是有些功能暂时用不到,于是想屏蔽掉. Duplicated Code冗余代码提示功能 先找到设置路径Settings -> Editor -> Inspections ...
- wordpress配置固定链接nginx访问404问题解决方法
WordPress支持使用固定链接,但是在ngnix环境下,访问页面后出现404, 其实官方是有文档说明的,需要单独写配置, 我这边配置的示例代码如下: server { listen 8 ...
- Linux CentOs集群LVS+Keepalived负载均衡的实现
准备工作 环境:Win10下Centos6.4虚拟机. 负载均衡:两台(一主一备) LVS + Keepalived. HTTP服务器:3台. 给每台服务器配置IP 1.VIP(virtual ip ...