-
题名动态编码驱动型会话问答方法研究
- 1
-
-
作者
段建勇
周帅
何丽
王昊
-
机构
北方工业大学信息学院
北方工业大学CNONIX国家标准应用与推广实验室
富媒体数字出版内容组织与知识服务重点实验室
-
出处
《小型微型计算机系统》
CSCD
北大核心
2023年第7期1412-1418,共7页
-
基金
国家自然科学基金项目(61972003,61672040)资助
富媒体数字出版内容组织与知识服务重点实验室开放基金项目(ZD2021-11/05)资助。
-
文摘
会话问答即多轮问答任务,是对话式人工智能的重要组成部分.如何对复杂的上下文信息进行高效特征提取,一直是会话问答任务的重大难题.现有的方法通常会对其经过多层LSTM处理,很容易产生冗余信息造成上下文偏差.为此,提出动态编码网络的方法,该方法基于Encoder-Decoder框架,但在编码过程融入了动态的方式,以更好地理解段落中的内容和会话历史信息.在动态编码层,编码机制迭代地读取对话历史信息,并且每次迭代的输出都将通过决策器P_(d)与之前的编码表示动态结合,舍弃不相关的信息,生成新的编码表示,随后被送往下一迭代程序中.最终,使模型预测答案的质量更高,整个对话更加流畅连贯.在最新发布的CoQA数据集的实验结果与各种基准和模型变体相比,证明了提出的方法是有效的.
-
关键词
机器学习
自然语言处理
会话问答
动态编码
-
Keywords
machine learning
natural language processing
conversational question answering
dynamic coding
-
分类号
TP389
[自动化与计算机技术—计算机系统结构]
-
-
题名基于CoBERT-BiGRU的对话式机器阅读理解
- 2
-
-
作者
陈亮
褚燕华
王丽颖
张晓琳
刘海佳
-
机构
内蒙古科技大学信息工程学院
-
出处
《计算机应用研究》
CSCD
北大核心
2021年第7期1983-1987,1997,共6页
-
基金
国家自然科学基金资助项目(61562065)。
-
文摘
基于现有模型不能有效处理多轮对话历史的不足,提出了CoBERT-BiGRU(concat bidirectional encoder representation from transformers-bidirectional gate recurrent unit)模型。对文章中的对话历史进行标记,将不同标记的文章及问题输入CoBERT模型,得到多个序列的向量化表示;通过历史注意力网络把多个结果融合成一个序列的向量化表示;将融合后的结果输入BiGRU,对答案及对话行为进行推理预测。真实数据集上的实验结果表明,CoBERT-BiGRU模型能够有效处理多轮对话历史,与基准模型和在该数据集上已公开的部分模型相比,HEQ-Q、HEQ-D和F 1值都有提升。
-
关键词
机器阅读理解
BERT
对话问答
双向门控循环单元
-
Keywords
machine reading comprehension
BERT
conversational question answering
BiGRU
-
分类号
TP391.1
[自动化与计算机技术—计算机应用技术]
-
-
题名会话式机器阅读理解综述
被引量:2
- 3
-
-
作者
李堃
李艳玲
林民
-
机构
内蒙古师范大学计算机科学技术学院
-
出处
《计算机科学与探索》
CSCD
北大核心
2021年第9期1607-1618,共12页
-
基金
国家自然科学基金(61806103,61562068)
内蒙古自治区“草原英才”工程青年创新创业人才项目
+3 种基金
内蒙古纪检监察大数据实验室开放课题基金(IMDBD2020013)
内蒙古自治区科技计划项目(JH20180175)
内蒙古师范大学研究生创新基金(CXJJS20127)
内蒙古自治区高等学校科学技术研究项目(NJZY21578,NJZY21551)。
-
文摘
机器阅读理解(MRC)是一个受数据集推动的研究领域,其目标是让机器在理解文章内容的基础上能够正确回答相关问题。早期受数据集限制,机器阅读理解任务大多局限于单轮问答,问答对之间缺少依赖关系。而会话问答(ConvQA)是使机器在帮助人类获取信息时可以进行连续主题的人机交互过程。近年来,随着机器阅读理解数据集和深度神经网络的发展,研究人员将机器阅读理解与会话问答结合,形成更为复杂真实的会话式机器阅读理解(CMC),这极大地推动了机器阅读理解领域的发展。对近几年会话式机器阅读理解相关最新研究进展从三方面归纳总结:首先阐述该任务的定义、所面临的挑战以及相关数据集的特性;然后归纳总结当前最新模型的架构及其研究进展,着重介绍会话历史嵌入表示以及会话推理所使用的相关技术方法;最后梳理分析当前会话式机器阅读理解模型,并对未来研究重点和研究方法进行展望。
-
关键词
多轮对话
机器阅读理解(MRC)
会话问答(ConvQA)
-
Keywords
multi-turn conversation
machine reading comprehension(MRC)
conversational question answering(ConvQA)
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-