博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
论文笔记:Span-Based Event Coreference Resolution
阅读量:4290 次
发布时间:2019-05-27

本文共 1680 字,大约阅读时间需要 5 分钟。

作  者:崔金满

单位:燕山大学

论文地址: 

数据集:KBP 2016和KBP 2017

来源:AAAI 2021


问题定义:

文档内事件共指解析任务是确定文档中提到的哪个事件指的是同一个真实世界的事件;

比如论文中的例子:昨天,德里警方扇了示威者一把掌(v_1),当她在医院外示威(v_2)时,几乎与此同时,在印度北部的另一场抗议(v_4)活动中,一名60多岁的妇女被警方殴打致死(v_3),到目前为止,德里警方已经暂停了殴打(v_5)女抗议者的警察的职务。

在这个例子中共有5个事件提及,其中,v_1v_3v_5属于Attack类型,但是,只有v_1v_5是共指的,因为v_3发生在一次不同的抗议活动中。此外v_2v_4也不是共指的,因为它们指的是不同的抗议事件。

问题驱动:

1.基于span的实体共指消解模型已经取得很好的效果,那么扩展到事件共指消解的基于span的模型的性能如何?

(与实体提及不同,事件提及不仅由事件元素组成,还由元素在事件中扮演的角色组成。因此,确定两个事件提及是否共指,不仅需要对应的事件类型相同,而且还需要它们对应元素的共指的。也就是说事件共指在很大程度上取决于触发词出现的上下文,所以需要考虑基于span的模型能否有效学习基于上下文嵌入的信息。)

2.可以利用cross-task一致性约束来改进基于span的事件共指模型吗?

(基于span的模型有可能假设两个具有不同事件子类型的事件提及是共指的。)

3.实体共指信息能有利于事件共指解析吗?

贡献:

1.研究了基于span的模型在事件共指消解中的应用。

2.cross-task一致性约束和实体共指信息在基于span的事件共指消解2中的作用

Model:

span-based模型联合学习事件触发器检测和事件共指解析两个任务;

其中,事件触发器检测的目的是检测span i指定一个子类型y_i,事件共指解析任务旨在为span i分配一个先行词,然后计算共指得分。模型结构如图所示:

模型结构:

1.Span Representation Layer:

通过SpanBERT-large对单词序列进行编码,首先将span表示为g_i=[h_{start(i)};h_{end(i)};h_{head(i)};f_i],其中h_{start(i)}h_{end(i)}分别表示span的start和end tokes的隐藏向量,h_{head(i)}是基于注意力的头向量,f_i是span宽度的特征嵌入。然后通过前馈神经网络,保留span的用于前N%进一步处理,s_m(i)=w_m\cdot FFNN_m(g_i)

2.Trigger Prediction Layer:

将表示层的输出g_i输入到FFNN,输出span属于事件子类型y的可能性

 

3.Coreference Prediction Layer:

为预测事件共指链接,首先计算span ij之间的平均得分。

 

Incorporating Consistency Constraints:

为了探索事件检测和事件共指的一致性约束,在baseline模型中加入以下一致性约束:

 P1:如果两个span没有相同的事件子类型,则它们不是共指的;

P2:如果一个span的事件子类型为“无”,那么它的先行词必须是虚拟的。

由于在任何情况下都不应该违反这两个条件,所以将其作为硬约束来实施,但在实践中,这些是在有噪声的输出上计算的,所以为了将它们作为软约束来实施,将约束损失乘以一个超参数,从而控制当违反约束时,模型受惩罚程度。

Exploiting Entity Coreference Information:

1.pipeline:首先,实体共指模型计算给定文档中实体提及的实体共指链,然后将其作为输入,输入到事件共指模型,实现事件共指解析。

其中,左侧为实体共指模型,右侧为事件共指模型,除了事件共指模型将实体共指作为附加输入外,两者在结构上是相同的。

在事件共指解析过程中,可以在实体共指和事件共指之间创建额外的交叉表约束,从而实现实体共指链的利用。

2.Joint Model:

优点在于与pipeline相比,joint可以实现参数共享

实验: 

 

从表中结果来看,本文提出的方法取得了很好的效果,且事件检测的性能对事件共指解析具有重要影响,原因在于当触发器被分类为正确的事件子类型是,事件共指解析正确的可能性也就越高。 

转载地址:http://uhmgi.baihongyu.com/

你可能感兴趣的文章
http错误码
查看>>
python 多线程
查看>>
sipp命令 各参数含义
查看>>
搜集的动植物分类、检索网站
查看>>
ffmpeg源码分析之媒体打开过程
查看>>
Ubuntu/centos/redhat/SUSE sipp安装(带rtp支持,3.5.1版本)
查看>>
周鸿祎:很多程序员聪明,但我一看就知道他不会成功
查看>>
编译程序遇到问题 relocation R_X86_64_32 against `.rodata' can not be used when making a shared object;
查看>>
Const指针 、 指向const的指针 、引用、指针
查看>>
GDB调试命令
查看>>
常见数据类型的字节数
查看>>
gcc/g++ 编译常见问题
查看>>
【设计模式】 工厂模式实例 C++ , 利用工厂模式写一个计算器
查看>>
opencv
查看>>
【图像处理】 一、OSTU分割
查看>>
Android常用的框架有哪些
查看>>
SSL 证书创建与部署
查看>>
学习搭建人工智能环境遇到的问题
查看>>
自己编写的计算器
查看>>
视频物体检测
查看>>