期刊文献+
共找到6篇文章
< 1 >
每页显示 20 50 100
基于集成迁移学习的细粒度图像分类算法 被引量:17
1
作者 吴建 许镜 丁韬 《重庆邮电大学学报(自然科学版)》 CSCD 北大核心 2020年第3期452-458,共7页
针对现有的大部分细粒度图像分类算法都忽略了局部定位和局部特征学习是相互关联的问题,提出了一种基于集成迁移学习的细粒度图像分类算法。该算法的分类网络由区域检测分类和多尺度特征组合组成。区域检测分类网络通过类别激活映射(cla... 针对现有的大部分细粒度图像分类算法都忽略了局部定位和局部特征学习是相互关联的问题,提出了一种基于集成迁移学习的细粒度图像分类算法。该算法的分类网络由区域检测分类和多尺度特征组合组成。区域检测分类网络通过类别激活映射(class activation mapping,CAM)方法获得局部区域,以相互强化学习的方式,从定位的局部区域中学习图像的细微特征,组合各局部区域特征作为最终的特征表示进行分类。该细粒度图像分类网络在训练过程中结合提出的集成迁移学习方法,基于迁移学习,通过随机加权平均方法集成局部训练模型,从而获得更好的最终分类模型。使用该算法在数据集CUB-200-2011和Stanford Cars上进行实验,结果表明,与原有大部分算法对比,该算法具有更优的细粒度分类结果。 展开更多
关键词 细粒度图像分类 集成迁移学习 类别激活映射 随机加权平均
下载PDF
基于BILSTM的棉花价格预测建模与分析 被引量:8
2
作者 江知航 王艳霞 +1 位作者 颜家均 周堂容 《中国农机化学报》 北大核心 2021年第8期151-160,共10页
棉花市场价格指数波动是一个非常复杂的非线性系统,具有随机波动特性,容易受到气象、金融、政策和国际环境影响。在现有研究棉花价格的数据集特征的基础上如政策、国际环境、进出口、产量等,增加气候因素对棉花价格影响的数据特征如降... 棉花市场价格指数波动是一个非常复杂的非线性系统,具有随机波动特性,容易受到气象、金融、政策和国际环境影响。在现有研究棉花价格的数据集特征的基础上如政策、国际环境、进出口、产量等,增加气候因素对棉花价格影响的数据特征如降水、日照、湿度等,并对数据进行收集、整理及预处理。基于棉花价格的波动特性,采用双向长短期记忆网络BiLSTM(bidirectional long short-term memory,BiLSTM)模型对棉花价格进行预测,使用长短期记忆网络LSTM(Long Short Term Memory Network,LSTM)和LightGbm模型进行对比试验。由于随机梯度下降(SGD)优化器在训练的过程中产生频繁波动,较多情况下得到的是局部最优值。采用SWA(Stochastic Weight Averaging)优化算法取SGD轨迹的多点简单平均值对SGD进行优化,避免SGD在梯度下降过程中的频繁波动问题,使其模型能将Loss和损失值收敛至全局最优,进一步提高训练的稳定性。试验结果表明:BILSTM模型能够很好地对测试集价格曲线进行拟合,误差值最小,价格预测精度较高;采用SWA算法优化的LSTM和BILSTM网络结构收敛至全局最优,平均绝对误差(MAE)分别提高18%和43%。该模型能够更精确地表现棉花市场价格波动规律,帮助棉花市场从业者和投资者优化经营策略。 展开更多
关键词 神经网络 长短期记忆网络 随机权重平均 棉花价格预测
下载PDF
联合词汇增强的中文细粒度地理命名实体识别模型研究 被引量:2
3
作者 李发东 王海起 +7 位作者 孔浩然 刘峰 王志海 王琼 徐建波 单宇飞 周啸宇 闫峰 《地球信息科学学报》 EI CSCD 北大核心 2023年第6期1106-1120,共15页
命名实体识别(NER)是自然语言处理众多研究基础,其可以被定义为分类任务,旨在从非结构化文本中定位出命名实体,同时将命名实体分类成预定义类别。与英文相比,中文构词灵活、不具有边界性,且缺乏高质量中文NER数据集,导致中文命名实体识... 命名实体识别(NER)是自然语言处理众多研究基础,其可以被定义为分类任务,旨在从非结构化文本中定位出命名实体,同时将命名实体分类成预定义类别。与英文相比,中文构词灵活、不具有边界性,且缺乏高质量中文NER数据集,导致中文命名实体识别难度较大。细粒度实体是粗粒度实体的细分类型,中文细粒度命名实体尤其是地理命名实体识别难度更大。中文地理命名实体识别无法同时兼顾精度和召回率,改善中文细粒度地理命名实体识别性能至关重要。因此,本文提出2种联合词汇增强模型的中文细粒度地理命名实体识别模型。首先,将词汇作为“知识”注入模型,基于词汇增强方式探究适合细粒度命名实体识别方法,并找出适合细粒度命名实体识别方法BERT-FLAT以及LEBERT;其次,为进一步提升细粒度地理命名实体识别性能,针对上述2种方法在预训练模型、对抗训练以及随机权重平均3个方面进行改进,形成联合词汇增强模型RoBERTa-wwm-FLAT以及LE-RoBERTa-wwm;最后,对联合词汇增强模型进行消融实验,探究不同改进策略对于地理命名实体识别性能影响。基于CLUENER数据集和1个微博数据集的实验表明:(1)与无词汇增强功能模型相比,具有词汇增强功能模型在细粒度命名实体识别任务中F1-score提升了10%左右;(2)针对词汇增强方法进行的3处改进使模型在细粒度地理命名实体识别任务中F1-score提升了0.36%~2.35%;(3)与对抗训练改进、随机权重平均改进相比,预训练模型改进对地理命名实体识别精度的影响最大。 展开更多
关键词 命名实体识别 自然语言处理 中文细粒度实体 地理命名实体识别 词汇增强 预训练模型 对抗训练 随机权重平均
原文传递
基于SWA优化级联网络的表情识别方法 被引量:3
4
作者 张翔 史志才 陈良 《电子科技》 2020年第9期16-20,共5页
为了提高表情识别技术的检测精度,文中提出了一种采用随机权重平均SWA优化级联网络的人脸表情识别方法。与单个卷积网络相比,多网络级联能得到更好的检测精度。相对于传统的SGD训练方法,SWA训练方法能增强级联网络中子网络的泛化能力,... 为了提高表情识别技术的检测精度,文中提出了一种采用随机权重平均SWA优化级联网络的人脸表情识别方法。与单个卷积网络相比,多网络级联能得到更好的检测精度。相对于传统的SGD训练方法,SWA训练方法能增强级联网络中子网络的泛化能力,进一步提高模型的整体性能。通过在Fer2013数据集上测试实验发现,基于SWA方法训练采用加权求和法方式级联的网络模型识别准确率达到74.478%,相对于传统SGD方法训练的单网络模型提高了1.4%以上。另外,与其他典型方法相比,所提改进模型的识别准确率更高。 展开更多
关键词 表情识别 卷积神经网络 随机权重平均 随机梯度下降法 Fer2013数据集 网络级联
下载PDF
基于平均教师模型的弱标记半监督声音事件检测
5
作者 王金甲 杨倩 +1 位作者 崔琳 纪绍男 《复旦学报(自然科学版)》 CAS CSCD 北大核心 2020年第5期540-550,共11页
为了利用大量不平衡和未标记数据,采用一致性正则化思想的平均教师模型用于弱标记半监督声音事件检测,可有效减少半监督学习中的过拟合问题.在教师模型的权重更新过程中,首次提出将随机加权平均算法(SWA)用于声音事件检测,可以加快预测... 为了利用大量不平衡和未标记数据,采用一致性正则化思想的平均教师模型用于弱标记半监督声音事件检测,可有效减少半监督学习中的过拟合问题.在教师模型的权重更新过程中,首次提出将随机加权平均算法(SWA)用于声音事件检测,可以加快预测速度并且节约成本.针对模型的架构问题,采用改进的门控卷积长短时记忆网络(GCLSTM)作为学生模型和教师模型,其中全局加权秩池化层可以克服平均池化和最大池化对声音事件的低估和高估的限制,有效地提高系统的性能.在对数据进行特征提取过程中,采用SpecAugment策略对语谱图进行增强,从而有效地解决过拟合问题.为了评估实验方法,在声学场景和事件的检测及分类(DCASE)2018挑战任务4数据集上进行测试,结果表明:评估集的平均F1分数可达24.9%,明显优于基线系统和其他方法的F1分数. 展开更多
关键词 声音事件检测 弱标记半监督 平均教师模型 随机加权平均 数据增强
下载PDF
基于深度神经网络权重集成的客户流失预测
6
作者 利向晴 夏国恩 +2 位作者 张显全 唐琪 叶帅 《计算机技术与发展》 2021年第10期18-23,共6页
如今许多的企业都面临着客户流失的实质问题,客户流失预测对企业的发展也是尤为重要的。对于客户流失预测的问题也有很多解决方案,传统的机器学习方法存在特征工程对模型效果影响较大的缺点,而深度学习则使得算法不会太依赖于领域专业... 如今许多的企业都面临着客户流失的实质问题,客户流失预测对企业的发展也是尤为重要的。对于客户流失预测的问题也有很多解决方案,传统的机器学习方法存在特征工程对模型效果影响较大的缺点,而深度学习则使得算法不会太依赖于领域专业知识和人工特征提取。为提升预测效果,提出一种深度神经网络权重集成方法来对电信客户流失进行预测,其主要思想是在做深度神经网络(DNN)训练的时候,通过随机加权平均(stochastic weight average,SWA)结合同一网络结构下的不同训练阶段的权重获取集成模型,然后对客户流失进行预测。实验结果表明,相比于深度神经网络训练,结合随机加权平均权重集成的深度神经网络训练时间缩短了2.96倍,同时,准确率、精准率、召回率和F1值均有所提升。 展开更多
关键词 客户流失 深度学习 深度神经网络 随机加权平均 权重集成
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部