-
题名基于双记忆注意力的方面级别情感分类模型
被引量：44
- 1
-
-
作者
曾义夫
蓝天
吴祖峰
刘峤
-
机构
电子科技大学信息与软件工程学院
-
出处
《计算机学报》
EI
CSCD
北大核心
2019年第8期1845-1857,共13页
-
基金
国家自然科学基金项目(61772117)
“十三五”装备预研领域基金项目(6140312010203)
+2 种基金
军委科技委前沿探索项目(1816321TS00105301)
四川省科技服务业示范项目(2018GFW0150)
提升政府治理能力大数据应用技术国家工程实验室重点项目(10-2018039)资助~~
-
文摘
方面级别情感分类的研究目标是针对给定语句所描述对象的特定方面,分析该语句所表达出的情感极性.现有的解决方案中,基于注意力机制的循环神经网络模型和多层模型性能表现较好,二者都借助了深度网络和外部记忆做注意力调优,但实验结果表明这些模型在处理复杂语句时的性能不够理想.本文提出一种基于双记忆注意力机制的方面级别情感分类模型,基本设计思想是借助循环神经网络的序列学习能力得到语句编码,并构造相应的注意力机制从语句编码中提取出关于给定方面词的情感表达.为此,构造了两个外部记忆:陈述性记忆和程序性记忆,分别用于捕获语句中与给定方面词相关的词级别和短语级别信息,并设计了一个分段解码器,用于从相关记忆中选择并提取情感语义信息.为验证模型的有效性,在三个基准数据集上进行了测试,包括SemEval 2014的Laptop和Restaurant数据集和一组常用的Twitter数据集,实验结果表明,本文提出的模型在分类准确率和泛化能力上的表现优于相关工作.此外,还设计了专门实验以验证本文提出的方面级别注意力机制和情感语义提取机制的有效性,为进一步研究方面级别情感语义抽取问题提供了新的思路和实验证据.
-
关键词
方面级别情感分类
情感分析
注意力机制
记忆
神经语言模型
-
Keywords
aspect-level sentiment classification
sentiment analysis
attention mechanism
memory
neuro-language model
-
分类号
TP311
[自动化与计算机技术—计算机软件与理论]
-
-
题名神经网络语言模型的结构与技术研究评述
被引量：1
- 2
-
-
作者
徐昊
易绵竹
-
机构
信息工程大学洛阳校区研究生四大队
信息工程大学洛阳校区基础系
-
出处
《现代计算机》
2019年第19期18-23,共6页
-
文摘
语言模型是对一种语言中词序列的联合概率函数的学习,传统的统计学习方法在语言模型的训练问题上遭遇维数灾难与上下文有限问题。神经网络语言模型通过深度学习方法训练语言模型,并通过分布式词向量表示解决维数灾难问题,循环神经网络对时序问题的处理能力在语言模型问题上得到应用。介绍几种各有优势的传统语言模型,介绍循环神经网络模型对时序问题的学习,与神经网络语言模型的相关技术。并在PTB数据集上分别使用N-Gram模型和LSTM模型训练英文语言模型,比较两者的困惑度差距。
-
关键词
语言模型
神经语言模型
循环神经网络
长短时记忆网络
词向量
-
Keywords
language model
neuro-language model
Circulatory Neural Network
Long and Short-Term Memory Network
Word Vector
-
分类号
TP391.1
[自动化与计算机技术—计算机应用技术]
-
