-
题名一种基于通道域自注意力的特征图剪枝方法
被引量：1
- 1
-
-
作者
胡建强
刘洋
周小报
梁铭枫
-
机构
厦门理工学院计算机与信息工程学院
-
出处
《厦门理工学院学报》
2022年第1期50-57,共8页
-
基金
福建省自然科学基金项目(2019J01856)
中国高校产学研创新基金项目(2020ITA03015)
厦门理工学院研究生科技创新计划项目(YKJCX2019112)。
-
文摘
为同时保证网络剪枝方法的准确率和稳定性,提出一种基于通道域自注意力的特征图剪枝方法。该方法采用主成分分析(principle component analysis,PCA)算法降低噪声干扰,引入通道域注意力为特征图自动分配不同权重,移除低权重通道的滤波器,并对网络进行重训练和精调,以减少网络精度损失。在公开数据集上对VGG-16网络模型展开的实验表明,当剪枝率为60%时,达到视觉几何组模型Top-5的准确率为89.23%;当剪枝率逐渐增加到80%时,仍保持73%准确率。相较于同类方法,本文提出的方法更能保证剪枝时模型的准确率和稳定性。
-
关键词
神经网络压缩
滤波器剪枝
特征图
通道域
自注意力
-
Keywords
neural network compression
filter pruning
feature maps
channel domain
self-attention
-
分类号
TP311.5
[自动化与计算机技术—计算机软件与理论]
-
