-
题名面向小样本学习的动态分布校正方法
- 1
-
-
作者
赵金伟
任文静
周锦绣
黑新宏
-
机构
西安理工大学计算机科学与工程学院
网络计算与安全技术陕西省重点实验室
-
出处
《计算机技术与发展》
2023年第6期173-180,共8页
-
基金
国家自然科学基金项目(62176210,61672027,U20B2050)
陕西省教育厅重点实验室资助(18JS076)。
-
文摘
近年来,机器学习在多领域取得巨大成功。在现实世界的真实场景中,由于采集环境复杂或标注难,使得可用于训练的标准样本很少,导致机器学习模型往往出现过学习或欠学习的问题。所以,小样本学习是具有挑战性的机器学习问题。近期人们提出分布校正方法,他们假设特征表示中每个维度都服从高斯分布,利用基类的特征分布来校正新类的特征分布。然而该方法易引入负迁移现象,并且易于淹没新类本身的特征分布。为此,该文提出一种动态分布校正方法解决分布校正过程中的负迁移问题。首先,基于阈值动态地选择近邻基类和远域基类;其次,新类样本的特征经过幂变换的操作后,增加特征标准化处理来消除不同量纲之间的差异;最后,该方法引入参数调节迁移分布与新类特征原分布之间的比例关系来实现新类的特征分布校准。通过在常规数据集miniImageNet和CUB上与最新算法和传统算法的大量对比实验表明,该方法可以有效提升小样本分类任务的性能。
-
关键词
小样本学习
负迁移
分布校正
阈值
动态分布校正
-
Keywords
few-shot learning
negative transfer
distribution calibration
threshold
dynamic distribution calibration
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
