-
题名基于混合注意力与强化学习的文本摘要生成
被引量:8
- 1
-
-
作者
党宏社
陶亚凡
张选德
-
机构
陕西科技大学电气与控制工程学院
-
出处
《计算机工程与应用》
CSCD
北大核心
2020年第1期185-190,共6页
-
基金
国家自然科学基金(No.61871260)
-
文摘
基于递归神经网络的序列到序列的模型在文本摘要生成任务中取得了非常好的效果,但这类模型大多存在生成文本重复、曝光偏差等问题。针对重复问题,提出一种由存储注意力和解码自注意力构成的混合注意力,通过存储历史注意力和增加对历史生成单词的注意力来克服该问题;使用强化学习作为一种新的训练方式来解决曝光偏差问题,同时修正损失函数。在CNN/Daily Mail数据集对模型进行测试,以ROUGE为评价指标,结果证明了混合注意力对重复问题有较大的改善,借助强化学习可以消除曝光偏差,整合后的模型在测试集上超越先进算法。
-
关键词
文本摘要生成
混合注意力
强化学习
自然语言处理
曝光偏差
递归神经网络
-
Keywords
abstractive summarization
mixture attention
reinforcement learning
natural language processing
exposure bias
recursive neural network
-
分类号
TP391.1
[自动化与计算机技术—计算机应用技术]
-
-
题名浅谈沥青混合料配合比设计注意事项
被引量:3
- 2
-
-
作者
邢照辉
-
机构
河北邢台路桥建设总公司
-
出处
《辽宁交通科技》
2004年第10期18-20,共3页
-
文摘
浅谈沥青混合料的目标配合比 ,生产配合比和生产配合比验证三个阶段的配合比设计时应注意的事项。
-
关键词
沥青混合料
配合比设计
目标配合比
生产配合比
-
Keywords
Asphalt mixture Proportioning design attentions
-
分类号
U414
[交通运输工程—道路与铁道工程]
U416
-