期刊导航
期刊开放获取
cqvip
退出
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
1
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式:
文摘
详细
列表
相关度排序
被引量排序
时效性排序
权重量化的深度神经网络模型压缩算法
被引量:
9
1
作者
陈昀
蔡晓东
+1 位作者
梁晓曦
王萌
《西安电子科技大学学报》
EI
CAS
CSCD
北大核心
2019年第2期132-138,共7页
深度神经网络模型通常存在大量的权重参数,为了减少其对存储空间的占用,提出权重量化的深度神经网络模型压缩算法。在前向传播过程中,使用一个四值滤波器将全精度权重量化为2、1、-1和-2四种状态,以进行高效的权重编码。最小化全精度权...
深度神经网络模型通常存在大量的权重参数,为了减少其对存储空间的占用,提出权重量化的深度神经网络模型压缩算法。在前向传播过程中,使用一个四值滤波器将全精度权重量化为2、1、-1和-2四种状态,以进行高效的权重编码。最小化全精度权重与缩放后四值权重的L2距离,以获得精确的四值权重模型。使用一个32位二进制数对16个四值权重进行编码压缩,以大幅度压缩模型。在MNIST、CIFAR-10和CIFAR-100数据集上的实验表明,该算法分别获得了6.74%、6.88%和6.62%的模型压缩率,与三值权重网络的相同,但准确率分别提升了0.06%、0.82%和1.51%。结果表明,该算法可提供高效、精确的深度神经网络模型压缩。
展开更多
关键词
权重量化
压缩
四值滤波器
存储空间
全精度
下载PDF
职称材料
题名
权重量化的深度神经网络模型压缩算法
被引量:
9
1
作者
陈昀
蔡晓东
梁晓曦
王萌
机构
桂林电子科技大学信息与通信学院
出处
《西安电子科技大学学报》
EI
CAS
CSCD
北大核心
2019年第2期132-138,共7页
基金
2014年广西物联网技术及产业化推进协同创新中心项目(WLW200601)
2016年广西科技计划重点研发计划(AB16380264)
2016年"认知无线电与信息处理"省部共建教育部重点实验室基金(CRKL160102)
文摘
深度神经网络模型通常存在大量的权重参数,为了减少其对存储空间的占用,提出权重量化的深度神经网络模型压缩算法。在前向传播过程中,使用一个四值滤波器将全精度权重量化为2、1、-1和-2四种状态,以进行高效的权重编码。最小化全精度权重与缩放后四值权重的L2距离,以获得精确的四值权重模型。使用一个32位二进制数对16个四值权重进行编码压缩,以大幅度压缩模型。在MNIST、CIFAR-10和CIFAR-100数据集上的实验表明,该算法分别获得了6.74%、6.88%和6.62%的模型压缩率,与三值权重网络的相同,但准确率分别提升了0.06%、0.82%和1.51%。结果表明,该算法可提供高效、精确的深度神经网络模型压缩。
关键词
权重量化
压缩
四值滤波器
存储空间
全精度
Keywords
weights
quantization
compression
four
-
value
filter
storage
space
full-precision
分类号
TP391 [自动化与计算机技术—计算机应用技术]
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
权重量化的深度神经网络模型压缩算法
陈昀
蔡晓东
梁晓曦
王萌
《西安电子科技大学学报》
EI
CAS
CSCD
北大核心
2019
9
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部