目前基于注意力机制的句子属性情感分类方法由于忽略句子中属性的上下文信息以及单词与属性间的距离特征,从而导致注意力机制难以学习到合适的注意力权重.针对该问题,提出一种基于依存树及距离注意力的句子属性情感分类模型(dependency ...目前基于注意力机制的句子属性情感分类方法由于忽略句子中属性的上下文信息以及单词与属性间的距离特征,从而导致注意力机制难以学习到合适的注意力权重.针对该问题,提出一种基于依存树及距离注意力的句子属性情感分类模型(dependency tree and distance attention, DTDA).首先根据句子的依存树得到包含属性的依存子树,并利用双向GRU学习句子及属性的上下文特征表示;根据句子中单词和属性在依存树中的最短路径确定相应的语法距离及位置权重,同时结合相对距离构造包含语义信息和距离信息的句子特征表示,并进一步利用注意力机制生成属性相关的句子情感特征表示;最后,将句子的上下文信息与属性相关的情感特征表示合并后并通过softmax进行分类输出.实验结果表明:DTDA在国际语义评测SemEval2014的2个基准数据集Laptop和Restaurant上取得与目前最好方法相当的结果.当使用相关领域训练的词向量时,DTDA在Laptop上的精确率为77.01%,在Restaurant上的准确率为81.68%.展开更多
方面级情感分类是一种细粒度的情感分析任务,旨在分类出文本中不同方面的情感。目前,现有方面级情感分类模型存在特征提取层次浅、泛化能力弱等问题。为此,该文提出一种基于融合对抗网络的方面级情感分类模型ASFAN(Aspect-level Sentime...方面级情感分类是一种细粒度的情感分析任务,旨在分类出文本中不同方面的情感。目前,现有方面级情感分类模型存在特征提取层次浅、泛化能力弱等问题。为此,该文提出一种基于融合对抗网络的方面级情感分类模型ASFAN(Aspect-level Sentiment classification model based on Fusion Adversarial Networks)。首先,从数据集中提取文本的方面词、位置、上下文信息表示。其次,将方面词、位置、上下文信息通过BERT编码。最后,通过多头注意力和局部注意力机制提取文本特征,将特征进行融合学习。此外,通过对抗学习算法生成对抗样本,将对抗样本作为一种文本数据增强样本,优化决策边界。实验结果表明,在SemEval 2014的Restaurant、Laptop数据集和ACL-2014的Twitter数据集上,ASFAN的准确率分别达86.54%、79.15%、76.16%,ASFAN对比大多数基线模型性能提升显著。展开更多
方面级情感分类是自然语言处理研究领域的一个热点问题,旨在分类出文本中不同方面的情感.目前,大多数深度神经网络情感分类模型都采用均值注意力机制,这导致情感词不能有效获得相应权重的问题.为此,提出一种基于对抗学习的自适应加权方...方面级情感分类是自然语言处理研究领域的一个热点问题,旨在分类出文本中不同方面的情感.目前,大多数深度神经网络情感分类模型都采用均值注意力机制,这导致情感词不能有效获得相应权重的问题.为此,提出一种基于对抗学习的自适应加权方面级情感分类模型AWSCM(Adaptive Weighted aspect-level Sentiment Classification Model based on adversarial learning),旨在自适应地学习文本权重.首先,将训练文本预处理成方面词、句子、句子对形式的输入,通过BERT对输入编码.然后,通过对抗学习算法和训练文本计算扰动生成对抗样本.最后,通过注意力机制提取训练文本和对抗样本编码后的深层文本特征和自适应权重,再进行联合学习.实验结果表明,和大多数深度神经网络情感分类模型相比,AWSCM能提升情感分类的准确性.同时,通过消融实验,证明了AWSCM结构设计的合理性.展开更多
为了研究句子结构关系对方面级情感分类模型性能的影响,针对当前方面级情感分类方法中过于重视句子中语法关系的作用,而忽视了句子的序列结构关系的问题,提出一种结合句子序列与语法关系的信息融合网络(sequence-syntax information fus...为了研究句子结构关系对方面级情感分类模型性能的影响,针对当前方面级情感分类方法中过于重视句子中语法关系的作用,而忽视了句子的序列结构关系的问题,提出一种结合句子序列与语法关系的信息融合网络(sequence-syntax information fusion network,SYFN)模型。SYFN模型分别处理句子的序列与语法关系信息,并在融合2种结构关系信息的基础上进一步结合网络的高低层融合信息。这些改进措施使模型能够结合高低层网络的关系融合信息去处理各种复杂的句子关系,能够充分利用结构关系信息进行情感分类。实验结果表明,SYFN模型与基线模型相比性能有较明显的提升。展开更多
方面级情感分类是一种细粒度的情感分析任务,旨在分析出文本不同方面的情感.针对方面级情感分类模型存在分类精度低、泛化性弱等问题,提出基于对抗学习的AOA-BERT方面级情感分类模型(Attention-Over-Attention-BERT for aspect-level se...方面级情感分类是一种细粒度的情感分析任务,旨在分析出文本不同方面的情感.针对方面级情感分类模型存在分类精度低、泛化性弱等问题,提出基于对抗学习的AOA-BERT方面级情感分类模型(Attention-Over-Attention-BERT for aspect-level sentiment classification model based on adversarial learning,AOA-BERT).首先,将文本和方面词单独建模,通过BERT编码提取隐含层特征.其次,将隐含层特征放入AOA(Attention-Over-Attention)网络提取权重向量.最后,将权重向量与建模后的文本特征向量相乘,并做交叉熵损失、回传参数.此外,通过对抗学习算法生成和学习对抗样本,作为一种文本数据增强方法,优化决策边界.实验结果表明,和大多数深度神经网络情感分类模型相比,AOA-BERT能提升情感分类的准确性.同时,通过消融实验,证明了AOA-BERT结构设计的合理性.展开更多
文摘目前基于注意力机制的句子属性情感分类方法由于忽略句子中属性的上下文信息以及单词与属性间的距离特征,从而导致注意力机制难以学习到合适的注意力权重.针对该问题,提出一种基于依存树及距离注意力的句子属性情感分类模型(dependency tree and distance attention, DTDA).首先根据句子的依存树得到包含属性的依存子树,并利用双向GRU学习句子及属性的上下文特征表示;根据句子中单词和属性在依存树中的最短路径确定相应的语法距离及位置权重,同时结合相对距离构造包含语义信息和距离信息的句子特征表示,并进一步利用注意力机制生成属性相关的句子情感特征表示;最后,将句子的上下文信息与属性相关的情感特征表示合并后并通过softmax进行分类输出.实验结果表明:DTDA在国际语义评测SemEval2014的2个基准数据集Laptop和Restaurant上取得与目前最好方法相当的结果.当使用相关领域训练的词向量时,DTDA在Laptop上的精确率为77.01%,在Restaurant上的准确率为81.68%.
文摘方面级情感分类是一种细粒度的情感分析任务,旨在分类出文本中不同方面的情感。目前,现有方面级情感分类模型存在特征提取层次浅、泛化能力弱等问题。为此,该文提出一种基于融合对抗网络的方面级情感分类模型ASFAN(Aspect-level Sentiment classification model based on Fusion Adversarial Networks)。首先,从数据集中提取文本的方面词、位置、上下文信息表示。其次,将方面词、位置、上下文信息通过BERT编码。最后,通过多头注意力和局部注意力机制提取文本特征,将特征进行融合学习。此外,通过对抗学习算法生成对抗样本,将对抗样本作为一种文本数据增强样本,优化决策边界。实验结果表明,在SemEval 2014的Restaurant、Laptop数据集和ACL-2014的Twitter数据集上,ASFAN的准确率分别达86.54%、79.15%、76.16%,ASFAN对比大多数基线模型性能提升显著。
文摘方面级情感分类是自然语言处理研究领域的一个热点问题,旨在分类出文本中不同方面的情感.目前,大多数深度神经网络情感分类模型都采用均值注意力机制,这导致情感词不能有效获得相应权重的问题.为此,提出一种基于对抗学习的自适应加权方面级情感分类模型AWSCM(Adaptive Weighted aspect-level Sentiment Classification Model based on adversarial learning),旨在自适应地学习文本权重.首先,将训练文本预处理成方面词、句子、句子对形式的输入,通过BERT对输入编码.然后,通过对抗学习算法和训练文本计算扰动生成对抗样本.最后,通过注意力机制提取训练文本和对抗样本编码后的深层文本特征和自适应权重,再进行联合学习.实验结果表明,和大多数深度神经网络情感分类模型相比,AWSCM能提升情感分类的准确性.同时,通过消融实验,证明了AWSCM结构设计的合理性.
文摘为了研究句子结构关系对方面级情感分类模型性能的影响,针对当前方面级情感分类方法中过于重视句子中语法关系的作用,而忽视了句子的序列结构关系的问题,提出一种结合句子序列与语法关系的信息融合网络(sequence-syntax information fusion network,SYFN)模型。SYFN模型分别处理句子的序列与语法关系信息,并在融合2种结构关系信息的基础上进一步结合网络的高低层融合信息。这些改进措施使模型能够结合高低层网络的关系融合信息去处理各种复杂的句子关系,能够充分利用结构关系信息进行情感分类。实验结果表明,SYFN模型与基线模型相比性能有较明显的提升。
文摘方面级情感分类是一种细粒度的情感分析任务,旨在分析出文本不同方面的情感.针对方面级情感分类模型存在分类精度低、泛化性弱等问题,提出基于对抗学习的AOA-BERT方面级情感分类模型(Attention-Over-Attention-BERT for aspect-level sentiment classification model based on adversarial learning,AOA-BERT).首先,将文本和方面词单独建模,通过BERT编码提取隐含层特征.其次,将隐含层特征放入AOA(Attention-Over-Attention)网络提取权重向量.最后,将权重向量与建模后的文本特征向量相乘,并做交叉熵损失、回传参数.此外,通过对抗学习算法生成和学习对抗样本,作为一种文本数据增强方法,优化决策边界.实验结果表明,和大多数深度神经网络情感分类模型相比,AOA-BERT能提升情感分类的准确性.同时,通过消融实验,证明了AOA-BERT结构设计的合理性.
