-
题名基于模型分解的小样本学习
被引量：1
- 1
-
-
作者
叶翰嘉
詹德川
-
机构
计算机软件新技术国家重点实验室(南京大学)
-
出处
《中国科学：信息科学》
CSCD
北大核心
2020年第5期662-674,共13页
-
基金
国家重点研发计划“大数据分析的基础理论和技术方法”(批准号:2018YFB1004300)
国家自然科学基金(批准号:61773198,61632004)
计算机软件新技术协同创新中心,南京大学优秀博士研究生创新能力提升计划项目资助。
-
文摘
机器学习依赖大量样本的统计信息进行模型的训练,从而能对未知样本进行精准的预测.搜集样本及标记需要耗费大量的资源,因而如何基于少量样本(few-shot learning)进行模型的训练至关重要.有效的模型先验(prior)能够降低模型训练对样本的需求.本文基于元学习(meta learning)框架,从相关的、类别不同的数据中学习模型先验,并将这种先验应用于新类别的少样本任务.与此同时,本文提出"模型组合先验"(MCP,model composition prior)方法,通过目标函数的最优条件对模型结构进行分解,并分别估计模型的各个组成部分,得到有效的分类器.这种分解方式具有较高的可解释性,能够指导在不同小样本任务中"共享"与"独立"的成分,从而指导元学习的具体实现.在人造数据中,本文方法能够恢复出小样本任务之间的关联性;在图像数据上,MCP方法能取得比当前主流方法更优异的效果.
-
关键词
小样本学习
元学习
模型先验
模型分解
-
Keywords
few-shot learning
meta-learning
model prior
model composition
-
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
-
-
题名基于模型结构先验的神经机器翻译研究
被引量：1
- 2
-
-
作者
郭丽娜
-
机构
安康职业技术学院
-
出处
《自动化与仪器仪表》
2023年第9期192-196,共5页
-
基金
安康职业技术学院课题项目《高职英语教学改革研究》(AZK11009)。
-
文摘
随着国际交流的增加,有必要对机器翻译模型进行研究,以提高英语翻译的质量。研究开发了一个基于分层先验模型结构的神经机器翻译框架模型,并利用定向动态路由对其进行改进。实验结果表明,FRNN+PRNN模型的翻译性能得到了大幅提升,优化后模型在测试集MT04、MT05、MT06上面的翻译结果分值分别为48.13、45.98、42.85,评分值远远高于RNMT模型和优化前模型。优化后模型在人工和自动评价中的翻译质量分值均最高,具有最高的翻译质量和最少的遗漏、重复翻译;NMT、优化前模型、优化后模型的CDR值分别为0.80、0.76、0.73,说明优化后模型具有很好的翻译忠实度和翻译质量。
-
关键词
层次性
模型结构先验
神经机器翻译
英语
-
Keywords
hierarchy
model structure prior
neural machine translation
English
context
-
分类号
H085
[语言文字—语言学]
-
