-
题名基于实体复制和双粒度指导的抽象摘要
- 1
-
-
作者
周子力
高士亮
安润鲁
包新月
-
机构
曲阜师范大学网络空间安全学院
-
出处
《计算机系统应用》
2024年第5期210-217,共8页
-
基金
山东省自然科学基金(ZR2021MD115)
上海市科委项目(21511100302)。
-
文摘
抽象神经网络在文本摘要领域取得了长足进步,展示了令人瞩目的成就.然而,由于抽象摘要的灵活性,它很容易造成生成的摘要忠实性差的问题,甚至偏离源文档的语义主旨.针对这一问题,本文提出了两种方法来提高摘要的保真度.(1)由于实体在摘要中起着重要作用,而且通常来自于原始文档,因此本文提出允许模型从源文档中复制实体,确保生成的实体与源文档中的实体相匹配,这有助于防止生成不一致的实体.(2)为了更好地防止生成的摘要与原文产生语义偏离,本文在摘要生成过程中使用关键实体和关键token作为两种不同粒度的指导信息以指导摘要的生成.本文使用ROUGE指标在两个广泛使用的文本摘要数据集CNNDM和XSum上评估了本文方法的性能,实验结果表明,这两种方法在提高模型性能方面都取得了显著的效果.此外,实验还证明了实体复制机制可以在一定程度上借助指导信息以纠正引入的语义噪声.
-
关键词
抽象摘要
实体复制
双粒度指导
深度学习
预训练模型
-
Keywords
summarization
entity copy
dual granularity guidance
deep learning
pre-train model
-
分类号
TP391.1
[自动化与计算机技术—计算机应用技术]
TP18
[自动化与计算机技术—计算机科学与技术]
-