-
题名面向语义片段结构化自注意力的目标情感分析
被引量：1
- 1
-
-
作者
邓航
陈渝
赵容梅
琚生根
-
机构
四川大学计算机学院
四川民族学院理工学院
-
出处
《小型微型计算机系统》
CSCD
北大核心
2022年第12期2499-2505,共7页
-
基金
国家自然科学基金重点项目(62137001)资助。
-
文摘
目标情感分析任务中大多数方法都使用循环神经网络或注意力机制对句子进行建模,但循环神经网络很难进行并行化计算,且不能充分捕捉长距离的语义信息;注意力机制注重于词与词之间的相关性,忽略了语义片段的重要性.针对以上问题,论文提出了一种面向语义片段结构化自注意力的目标情感分析方法.首先通过BERT获取目标词、上下文和整个句子的嵌入表示,再利用注意力编码网络进行语义建模.其次,通过多头注意力机制获得目标与上下文的融合语义特征,通过结构化自注意力机制获得句子片段的语义特征.最终,在融合各个语义特征的基础上对目标的情感极性分类.本方法在SemEval 2014 Task4和SemEval 2015 Task12通用数据集上的实验表明,该方法对比基线方法获得了提升.
-
关键词
目标情感分析
注意力编码网络
结构化自注意力
BERT
-
Keywords
targeted sentiment analysis
attentional encoder network
structured self-attention
BERT
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于伪触发词的并行预测篇章级事件抽取方法
- 2
-
-
作者
秦海涛
线岩团
相艳
黄于欣
-
机构
昆明理工大学信息工程与自动化学院
昆明理工大学云南省人工智能重点实验室
-
出处
《电子技术应用》
2024年第4期67-74,共8页
-
基金
国家自然科学基金项目(62266028)
云南重大科技专项计划课题(202202AD080003)。
-
文摘
篇章级事件抽取一般将事件抽取任务分为候选实体识别、事件检测和论元识别3个子任务,然后采用级联的方式依次进行,这样的方式会造成误差传递;另外,现有的大多数模型在解码事件时,对事件数量的预测隐含在解码过程中,且只能按照预定义的事件顺序及预定义的角色顺序预测事件论元,使得先抽取的事件并没有考虑到后面抽取的事件。针对以上问题提出一种多任务联合的并行预测事件抽取框架。首先,使用预训练语言模型作为文档句子的编码器,检测文档中存在的事件类型,并使用结构化自注意力机制获取伪触发词特征,预测每种事件类型的事件数量;然后将伪触发词特征与候选论元特征进行交互,并行预测每个事件对应的事件论元,在大幅缩减模型训练时间的同时获得与基线模型相比更好的性能。最终事件抽取结果F1值为78%,事件类型检测子任务F1值为98.7%,事件数量预测子任务F1值为90.1%,实体识别子任务F1值为90.3%。
-
关键词
篇章级事件抽取
多任务联合
预训练语言模型
结构化自注意力机制
并行预测
-
Keywords
document-level event extraction
multi-task joint
pre-trained language model
structured self-attention mechanism
parallel prediction
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名基于结构化自注意力网络的对话症状推断
- 3
-
-
作者
潘丁豪
杨志豪
林鸿飞
王健
-
机构
大连理工大学计算机科学与技术学院
-
出处
《计算机工程与应用》
CSCD
北大核心
2024年第4期331-337,共7页
-
基金
国家自然科学基金(62276043)
中央高校基本科研业务费(DUT22ZD205)。
-
文摘
症状推断是自动诊断医学对话系统的关键组成部分。近年来,随着网络问诊的兴起,医患对话文本的数量不断增加,原先基于电子健康记录的症状推断研究逐渐转移至医患对话文本。现存的大多数研究都忽略了对话特有的角色与症状实体结构先验知识,而这两种先验知识能够帮助模型更好地学习上下文的关联。提出了基于角色与实体结构先验知识的改良自注意力网络,并与预训练语言模型相结合。该模型将角色与实体结构先验知识融入文本的编码阶段中,能够更准确地进行症状实体的属性推断。使用CBLUE2.0榜单的CHIP-MDCFNPC数据集评估模型的性能。在CBLUE2.0榜单的CHIP-MDCFNPC数据集上的实验结果表明,该模型与基线模型对比取得了性能的提升,验证了先验知识与模型结构的有效性。
-
关键词
医患对话
症状诊断
结构化自注意力网络
-
Keywords
doctor-patient dialogue
symptom inference
structured self-attention network
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名三重注意力特征聚合的跨模态行人再识别
被引量：3
- 4
-
-
作者
黄盼
朱松豪
梁志伟
-
机构
南京邮电大学自动化学院、人工智能学院
-
出处
《南京邮电大学学报（自然科学版）》
北大核心
2021年第5期101-112,共12页
-
基金
南京邮电大学自然科学基金(NY219107)资助项目。
-
文摘
红外线和可见光域之间的跨模态人员再识别对于夜间监控应用极为重要。一方面,除了由不同摄像机光谱引起的跨模态差异外,可见光红外人物再识别还受到不同摄像机视角和人物姿态引起的巨大跨模态和模态内变化的影响;另一方面,现有的可见光⁃红外行人重识别方法倾向于学习全局表示,辨别力有限,对噪声图像的鲁棒性较弱。文中通过挖掘可见光⁃红外行人重识别的模态内层次和跨模态图级上下文线索,提出了一种新型的三注意力聚合学习方法。文中提出了一个模态内局部注意力加权的模块,通过对通道和局部关系挖掘施加领域知识来提取判别性的局部聚合特征。为了增强对噪声样本的鲁棒性,引入了改进的三元组损失并结合中心损失,考虑到离样本最近的不同类之间的距离,使得不同类之间可以保持一定的距离并提高特征的区分度。广泛的实验表明,三注意力聚合网络在各种环境下的表现都优于最先进的方法。
-
关键词
行人重新识别
局部特征
图形结构化注意力
-
Keywords
person ReID identification
local feature
graphically structured attention
-
分类号
TP391.4
[自动化与计算机技术—计算机应用技术]
-
