期刊文献+
共找到4篇文章
< 1 >
每页显示 20 50 100
针对可穿戴设备的稀疏化卷积心律失常分类加速器设计
1
作者 徐轶凡 申烁 +2 位作者 林昊 吴中行 刘昊 《浙江大学学报(理学版)》 CAS CSCD 北大核心 2024年第4期492-500,共9页
近年来,卷积神经网络(convolutional neural networks,CNN)因其优异的检测与识别能力,在心电图(electrocardiogram,ECG)信号的诊断研究中备受瞩目。然而,CNN模型因参数规模和算力需求较大,难以用于资源受限的可穿戴嵌入式设备。虽然使... 近年来,卷积神经网络(convolutional neural networks,CNN)因其优异的检测与识别能力,在心电图(electrocardiogram,ECG)信号的诊断研究中备受瞩目。然而,CNN模型因参数规模和算力需求较大,难以用于资源受限的可穿戴嵌入式设备。虽然使用剪枝技术可压缩网络规模,但稀疏化剪枝后权重的不规则分布使修剪后的网络模型依然存在无法高效处理非零数据的问题。为此,设计了一种高效的稀疏化卷积心律失常分类加速器。首先,采用多批次划分的稀疏压缩数据流方法提高计算效率;其次,设计了稀疏感知的计算阵列(processing element,PE)完成卷积运算,解决剪枝带来的负载不平衡问题。在现场可编程门阵列(field programmable gate array,FPGA)平台上的仿真结果显示,所设计的稀疏化卷积加速器在200 MHz时钟频率下的吞吐率为53.84GOP·s^(-1)、平均功耗为0.263 W、能效比为204.72 GOP·W^(-1)、五分类准确率达98%,相较于以往的稀疏化加速器,最高可以实现2.0~2.4倍的加速、4.5~6.1倍的能效比提升,适用于可穿戴的ECG分类设备。 展开更多
关键词 可穿戴嵌入式设备 非结构化剪枝 卷积神经网络 硬件加速器
下载PDF
基于稀疏敏感的鲁棒网络分层剪枝策略
2
作者 李平 袁晓彤 《计算机应用与软件》 北大核心 2023年第5期200-206,共7页
深度神经网络很容易受到精心设计的对抗样本攻击。虽然基于极大极小值优化的对抗训练方法能提升网络的鲁棒性,但是对抗训练比正常训练需要更大容量和更多参数的模型。为了获得一个高鲁棒性和高稀疏度的网络模型,该文从模型压缩角度出发... 深度神经网络很容易受到精心设计的对抗样本攻击。虽然基于极大极小值优化的对抗训练方法能提升网络的鲁棒性,但是对抗训练比正常训练需要更大容量和更多参数的模型。为了获得一个高鲁棒性和高稀疏度的网络模型,该文从模型压缩角度出发通过实验分析模型精度、鲁棒性和稀疏性之间的关系,并根据鲁棒网络稀疏敏感特性提出一种基于稀疏敏感的鲁棒网络非结构剪枝算法。在Mnist和Cifar10数据集上的白盒攻击实验结果表明,该算法在采用较大剪枝率时仍能保持高模型精度和高鲁棒性。在黑盒攻击下,基于该算法的稀疏模型的鲁棒精度甚至能超过未剪枝模型。 展开更多
关键词 鲁棒性 对抗训练 非结构剪枝 稀疏敏感度
下载PDF
基于稀疏化卷积网络剪枝的图像识别方法研究
3
作者 叶汉民 李志波 +1 位作者 程小辉 周颖慧 《实验室研究与探索》 CAS 北大核心 2022年第12期9-13,共5页
为了搜索到在资源受限条件下图像识别最佳网络模型,提出一种基于非结构剪枝的稀疏性训练方法:(1)引入随机掩码进行网络初始化,根据设定的权重比例与稀疏度剔除较小权重;(2)增加同等数量随机权重,线性缩放权重保留比例且遍历网络模型中参... 为了搜索到在资源受限条件下图像识别最佳网络模型,提出一种基于非结构剪枝的稀疏性训练方法:(1)引入随机掩码进行网络初始化,根据设定的权重比例与稀疏度剔除较小权重;(2)增加同等数量随机权重,线性缩放权重保留比例且遍历网络模型中参数;(3)迭代剔除和增加权重训练,提高稀疏性训练效率,得到精简的网络模型。实验结果表明,该方法在基于公共数据集CIFAR10/100在较大剪枝率条件下(98%),采用ResNet及VGG架构时模型精度分别达到了89.27%和60.18%、92.76%和69.14%;在其他剪枝比例下仍能够保持高准确度。该方法可以有效解决模型中过参数化问题,可以应用于神经网络的模型压缩,实现先进神经网络在存储及计算能力相对较弱的嵌入式设备中的移植部署。 展开更多
关键词 非结构剪枝 稀疏性 掩码 准确度 模型压缩
下载PDF
基于稀疏神经网络的图像超分辨率重建算法
4
作者 黎浩民 李光平 《计算机工程》 CAS CSCD 北大核心 2022年第7期247-253,共7页
部分基于深度学习的图像超分辨率重建算法通过扩展网络层的深度来提高网络模型的整体特征表达能力。然而,一味过度地扩展网络的深度会造成网络模型过参数化和复杂化,并且冗余的网络参数会增加特征表达的不稳定性。在LTH剪枝算法基础上... 部分基于深度学习的图像超分辨率重建算法通过扩展网络层的深度来提高网络模型的整体特征表达能力。然而,一味过度地扩展网络的深度会造成网络模型过参数化和复杂化,并且冗余的网络参数会增加特征表达的不稳定性。在LTH剪枝算法基础上改变权重参数并使用均衡学习策略,提出一种适用于图像超分辨率重建任务的神经网络非结构化剪枝算法RLTH。在不改变网络结构和不增加计算复杂度的前提下,通过搜索原始网络模型的最优稀疏子网络排除冗余参数带来的影响,在有限的参数资源中捕获更细粒度和丰富的图像特征,进而提高网络模型的整体特征表达能力。基于Set5、Set14和BSD100测试集的实验结果表明,与原始网络模型和应用LTH剪枝算法相比,应用RLTH算法获得的重建图像PSNR和SSIM均得到提升,且具有更丰富的细节特征,整体和局部轮廓更清晰。 展开更多
关键词 单帧图像超分辨率重建 神经网络 非结构化剪枝 深度学习 稀疏网络
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部