期刊文献+
共找到169篇文章
< 1 2 9 >
每页显示 20 50 100
基于改进sigmoid激活函数的深度神经网络训练算法研究 被引量:29
1
作者 黄毅 段修生 +1 位作者 孙世宇 郎巍 《计算机测量与控制》 2017年第2期126-129,共4页
针对深度神经网络训练过程中残差随着其传播深度越来越小而使底层网络无法得到有效训练的问题,通过分析传统sigmoid激活函数应用于深度神经网络的局限性,提出双参数sigmoid激活函数;个参数保证激活函数的输入集中坐标原点两侧,避免了激... 针对深度神经网络训练过程中残差随着其传播深度越来越小而使底层网络无法得到有效训练的问题,通过分析传统sigmoid激活函数应用于深度神经网络的局限性,提出双参数sigmoid激活函数;个参数保证激活函数的输入集中坐标原点两侧,避免了激活函数进入饱和区,一个参数抑制残差衰减的速度,双参数结合有效地增强了深度神经网络的训练;用DBN对MNIST数据集进行数字分类实验,实验表明双参数sigmoid激活函数能够直接应用于无预训练深度神经网络,而且提高了sigmoid激活函数在有预训练深度神经网络中的训练效果。 展开更多
关键词 深度神经网络 残差衰减 sigmoid激活函数
下载PDF
深度神经网络解释方法综述 被引量:25
2
作者 苏炯铭 刘鸿福 +2 位作者 项凤涛 吴建宅 袁兴生 《计算机工程》 CAS CSCD 北大核心 2020年第9期1-15,共15页
深度神经网络具有非线性非凸、多层隐藏结构、特征矢量化、海量模型参数等特点,但弱解释性是限制其理论发展和实际应用的巨大障碍,因此,深度神经网络解释方法成为当前人工智能领域研究的前沿热点。针对军事、金融、医药、交通等高风险... 深度神经网络具有非线性非凸、多层隐藏结构、特征矢量化、海量模型参数等特点,但弱解释性是限制其理论发展和实际应用的巨大障碍,因此,深度神经网络解释方法成为当前人工智能领域研究的前沿热点。针对军事、金融、医药、交通等高风险决策领域对深度神经网络可解释性提出的强烈要求,对卷积神经网络、循环神经网络、生成对抗网络等典型网络的解释方法进行分析梳理,总结并比较现有的解释方法,同时结合目前深度神经网络的发展趋势,对其解释方法的未来研究方向进行展望。 展开更多
关键词 可解释的人工智能 深度神经网络 卷积神经网络 循环神经网络 生成对抗网络
下载PDF
基于深度神经网络的砂岩储层孔隙度预测方法 被引量:16
3
作者 杨柳青 查蓓 陈伟 《中国科技论文》 CAS 北大核心 2020年第1期73-80,共8页
为了提高储层参数的预测精度,使用深度神经网络(deep neural networks,DNN)对储层的孔隙度进行预测;在深度神经网络中应用Adam自适应学习率优化器,并与卷积神经网络(convolutional neural network,CNN)和BP神经网络(BP neural network,B... 为了提高储层参数的预测精度,使用深度神经网络(deep neural networks,DNN)对储层的孔隙度进行预测;在深度神经网络中应用Adam自适应学习率优化器,并与卷积神经网络(convolutional neural network,CNN)和BP神经网络(BP neural network,BPNN)进行预测精度对比;网络训练中引入“丢弃”(dropout)正则化技术随机丢弃每层神经元来减少过拟合现象;采用Relu函数避免深度神经网络在迭代时陷入局部最小值,加速参数更新,增加收敛的鲁棒性。以测井数据为驱动,同时以网络模型的超参数调节对孔隙度预测精度的影响进行实验模拟。实际资料处理表明,随着网络深度增加及参数调试,DNN预测数值与原始数值高度吻合,采用深度神经网络的储层孔隙度预测方法可以应用于利用测井资料开展储层预测的实际生产。 展开更多
关键词 测井资料 深度学习 储层参数预测 人工神经网络 深度神经网络
下载PDF
基于改进深度卷积生成对抗网络的入侵检测方法 被引量:13
4
作者 杨锦溦 杨宇 +1 位作者 姚铖鹏 尹坤 《科学技术与工程》 北大核心 2022年第8期3209-3215,共7页
针对入侵检测系统因采用的网络攻击样本具有不平衡性而导致检测结果出现较大偏差的问题,提出一种将改进后的深度卷积生成对抗网络(deep convolution generation adversarial network,DCGAN)与深度神经网络(deep neural network,DNN)相... 针对入侵检测系统因采用的网络攻击样本具有不平衡性而导致检测结果出现较大偏差的问题,提出一种将改进后的深度卷积生成对抗网络(deep convolution generation adversarial network,DCGAN)与深度神经网络(deep neural network,DNN)相结合的入侵检测模型(DCGAN-DNN),深度卷积生成对抗网络能够通过学习已知攻击样本数据的内在特征分布生成新的攻击样本,并对深度卷积生成对抗网络中生成网络所用的线性整流(rectified linear unit,ReLU)激活函数作出改进,改善了均值偏移和神经元坏死的问题,提升了训练稳定性。使用CIC-IDS-2017数据集作为实验样本对模型进行评估,与传统的过采样方法相比DCGAN-DNN入侵检测模型对于未知攻击和少数攻击类型具有较高检测率。 展开更多
关键词 网络安全态势感知 入侵检测 深度卷积生成对抗网络(DCGAN) 深度神经网络(dnn)
下载PDF
基于深层神经网络的藏语识别 被引量:14
5
作者 袁胜龙 郭武 戴礼荣 《模式识别与人工智能》 EI CSCD 北大核心 2015年第3期209-213,共5页
文中首次涉及藏语的自然对话风格大词汇电话连续语音识别问题.作为一种少数民族语言,藏语识别面临的最大的困难是数据稀疏问题.文中在基于深层神经网络(DNN)的声学模型建模中,针对数据稀疏的问题,提出采用大语种数据训练好的DNN作为目... 文中首次涉及藏语的自然对话风格大词汇电话连续语音识别问题.作为一种少数民族语言,藏语识别面临的最大的困难是数据稀疏问题.文中在基于深层神经网络(DNN)的声学模型建模中,针对数据稀疏的问题,提出采用大语种数据训练好的DNN作为目标模型的初始网络进行模型优化的策略.另外,由于藏语语音学的研究很不完善,人工生成决策树问题集的方式并不可行.针对该问题,文中利用数据驱动的方式自动生成决策树问题集,对三音子隐马尔可夫模型(HMM)进行状态绑定,从而减少需要估计的模型参数.在测试集上,基于混合高斯模型(GMM)声学建模的藏字识别率为30.86%.在基于DNN的声学模型建模中,采用三种大语种数据训练好的DNN网络作为初始网络,并在测试集上验证该方法的有效性,藏字识别正确率达到43.26%. 展开更多
关键词 藏语 连续语音识别 数据驱动 深层神经网络(dnn)
下载PDF
基于深度神经网络和SoftMax分类器的台区负荷分类识别方法 被引量:11
6
作者 徐嘉杰 卢兆军 +1 位作者 袁飞 陈光宇 《电气自动化》 2021年第6期102-104,114,共4页
随着传统分类分析算法研究的不断深入,台区用电负荷模式的分类识别也在不断发展。提出了一种基于深度神经网络(deep neural networks,DNN)和SoftMax分类器的台区负荷分类识别方法,结合已有的典型负荷曲线特征库,实现对台区未知用户的负... 随着传统分类分析算法研究的不断深入,台区用电负荷模式的分类识别也在不断发展。提出了一种基于深度神经网络(deep neural networks,DNN)和SoftMax分类器的台区负荷分类识别方法,结合已有的典型负荷曲线特征库,实现对台区未知用户的负荷预测,为电网部门需求侧管理提供可靠的支撑。对某台区1200个用户负荷数据进行实证分析,结果表明,提出的分类方法在算法收敛性、计算时间以及预测精度等方面具有更好的性能。 展开更多
关键词 深度神经网络 SoftMax分类器 台区负荷分类 负荷预测 需求侧管理
下载PDF
雷达像智能识别对抗研究进展 被引量:5
7
作者 高勋章 张志伟 +2 位作者 刘梅 龚政辉 黎湘 《雷达学报(中英文)》 EI CSCD 北大核心 2023年第4期696-712,共17页
基于深度神经网络的雷达像智能识别技术已经成为雷达信息处理领域的前沿和热点。然而,深度神经网络模型易受到对抗攻击的威胁。攻击者可以在隐蔽的条件下误导智能目标识别模型做出错误预测,严重影响其识别精度和鲁棒性。该文梳理了近年... 基于深度神经网络的雷达像智能识别技术已经成为雷达信息处理领域的前沿和热点。然而,深度神经网络模型易受到对抗攻击的威胁。攻击者可以在隐蔽的条件下误导智能目标识别模型做出错误预测,严重影响其识别精度和鲁棒性。该文梳理了近年来雷达像智能识别对抗技术发展现状,总结分析了现有雷达一维/二维像识别对抗攻击方法和防御方法的特点,最后讨论了当前雷达像智能识别对抗研究领域值得关注的5个开放问题。 展开更多
关键词 雷达像识别 深度神经网络 对抗攻击 后门攻击 对抗防御
下载PDF
Deep-SBFL:基于频谱的深度神经网络缺陷定位方法 被引量:3
8
作者 李铮 崔展齐 +3 位作者 陈翔 王荣存 刘建宾 郑丽伟 《软件学报》 EI CSCD 北大核心 2023年第5期2231-2250,共20页
深度神经网络已经在自动驾驶和智能医疗等领域取得了广泛的应用.与传统软件一样,深度神经网络也不可避免地包含缺陷,如果做出错误决定,可能会造成严重后果.因此,深度神经网络的质量保障受到了广泛关注.然而,深度神经网络与传统软件存在... 深度神经网络已经在自动驾驶和智能医疗等领域取得了广泛的应用.与传统软件一样,深度神经网络也不可避免地包含缺陷,如果做出错误决定,可能会造成严重后果.因此,深度神经网络的质量保障受到了广泛关注.然而,深度神经网络与传统软件存在较大差异,传统软件质量保障方法无法直接应用于深度神经网络,需要设计有针对性的质量保障方法.软件缺陷定位是保障软件质量的重要方法之一,基于频谱的缺陷定位方法在传统软件的缺陷定位中取得了很好的效果,但无法直接应用于深度神经网络.在传统软件缺陷定位方法的基础上提出了一种基于频谱的深度神经网络缺陷定位方法Deep-SBFL.该方法首先通过收集深度神经网络的神经元输出信息和预测结果作为频谱信息;然后将频谱信息进行处理作为贡献信息,以用于量化神经元对预测结果所做的贡献;最后提出了针对深度神经网络缺陷定位的怀疑度公式,基于贡献信息计算深度神经网络中神经元的怀疑度并进行排序,以找出最有可能存在缺陷的神经元.为验证该方法的有效性,以EInspect@n(结果排序列表前n个位置内成功定位的缺陷数)和EXAM(在找到缺陷元素之前必须检查元素的百分比)作为评测指标,在使用MNIST数据集训练的深度神经网络上进行了实验.结果表明,该方法可有效定位深度神经网络中不同类型的缺陷. 展开更多
关键词 软件质量保障 软件缺陷定位 深度神经网络(dnn) 频谱 怀疑度
下载PDF
Optimizing Facial Expression Recognition through Effective Preprocessing Techniques
9
作者 Lakshminarayanan Meena Thambusamy Velmurugan 《Journal of Computer and Communications》 2023年第12期86-101,共16页
Analyzing human facial expressions using machine vision systems is indeed a challenging yet fascinating problem in the field of computer vision and artificial intelligence. Facial expressions are a primary means throu... Analyzing human facial expressions using machine vision systems is indeed a challenging yet fascinating problem in the field of computer vision and artificial intelligence. Facial expressions are a primary means through which humans convey emotions, making their automated recognition valuable for various applications including man-computer interaction, affective computing, and psychological research. Pre-processing techniques are applied to every image with the aim of standardizing the images. Frequently used techniques include scaling, blurring, rotating, altering the contour of the image, changing the color to grayscale and normalization. Followed by feature extraction and then the traditional classifiers are applied to infer facial expressions. Increasing the performance of the system is difficult in the typical machine learning approach because feature extraction and classification phases are separate. But in Deep Neural Networks (DNN), the two phases are combined into a single phase. Therefore, the Convolutional Neural Network (CNN) models give better accuracy in Facial Expression Recognition than the traditional classifiers. But still the performance of CNN is hampered by noisy and deviated images in the dataset. This work utilized the preprocessing methods such as resizing, gray-scale conversion and normalization. Also, this research work is motivated by these drawbacks to study the use of image pre-processing techniques to enhance the performance of deep learning methods to implement facial expression recognition. Also, this research aims to recognize emotions using deep learning and show the influences of data pre-processing for further processing of images. The accuracy of each pre-processing methods is compared, then combination between them is analysed and the appropriate preprocessing techniques are identified and implemented to see the variability of accuracies in predicting facial expressions. . 展开更多
关键词 Facial Expression Recognition Preprocessing Techniques NORMALIZATION Convolutional neural network (CNN) deep neural networks (dnn)
下载PDF
时序Sentinel-1和Sentinel-2数据支持下的鄱阳湖湿地草本植物群落制图分类 被引量:2
10
作者 张琍 罗文庭 +2 位作者 张皓寰 殷秀琬 李斌 《遥感学报》 EI CSCD 北大核心 2023年第6期1362-1375,共14页
植被是湿地的核心,易受人类活动和气候变化的影响,湿地植物群落分类与制图可以为湿地生态监测与评估提供科学数据支撑。本研究以鄱阳湖国家级湿地自然保护区为研究区,基于2019年月度Sentinel-1和Sentinel-2时序数据,通过提取影像的水体... 植被是湿地的核心,易受人类活动和气候变化的影响,湿地植物群落分类与制图可以为湿地生态监测与评估提供科学数据支撑。本研究以鄱阳湖国家级湿地自然保护区为研究区,基于2019年月度Sentinel-1和Sentinel-2时序数据,通过提取影像的水体指数和植被指数、红边指数、纹理特征、光谱特征、雷达极化数据5类,共计240个特征指标,使用随机森林、支持向量机和深度神经网络算法进行分类,探寻一套湿地植被分类最优的特征组合和分类方案。(1)光学数据在湿地分类与制图提取中明显优于雷达数据,雷达数据可以在光学数据不足时,作为光学数据的补充。(2)对时序Sentinel-2的各特征变量进行重要性筛选,有助于提高分类精度,优选时间段主要分布在1月、5月、8月、9月、10月和12月份;(2)当对5组特征变量单独分类时,分类精度排序为红边指数组>水体—植被指数组>光谱特征组>雷达极化数据组>纹理特征组;(3)对比组合变量和单独特征变量,组合变量不一定有助于提高分类效果,分类精度排序为:红边指数分类组>水体—植被指数分类组>组合分类组,其中,红边指数组随机森林分类总体精度达0.81,Kappa系数为0.76;(4)对比3种分类方法,分类精度排序为:深度神经网络>随机森林>支持向量机,其中,深度学习方法并没有太大幅度的提高分类精度,相对随机森林算法仅仅提高了2%。故深度神经网络和随机森林算法都可以作为优选算法。本研究给出的分类方案是,使用Sentinel-2和Sentinel-1多时序数据对湿地植被进行精细化分类,时段选择建议1月、5月、8月、9月、10月和12月份的卫星数据更优,特征变量可选红边指数组或者水体—植被指数组产品,分类方法可根据需求选择深度神经网络或随机森林对湿地植物群落进行分类,可得出较优的分类结果。这个分类方案可以有效的提升鄱阳湖湿地植被制� 展开更多
关键词 遥感 鄱阳湖 湿地植被制图 特征变量 随机森林 深度神经网络 多时相光学与雷达数据
原文传递
基于深度神经网络的语音驱动发音器官的运动合成 被引量:6
11
作者 唐郅 侯进 《自动化学报》 EI CSCD 北大核心 2016年第6期923-930,共8页
实现一种基于深度神经网络的语音驱动发音器官运动合成的方法,并应用于语音驱动虚拟说话人动画合成.通过深度神经网络(Deep neural networks,DNN)学习声学特征与发音器官位置信息之间的映射关系,系统根据输入的语音数据估计发音器官的... 实现一种基于深度神经网络的语音驱动发音器官运动合成的方法,并应用于语音驱动虚拟说话人动画合成.通过深度神经网络(Deep neural networks,DNN)学习声学特征与发音器官位置信息之间的映射关系,系统根据输入的语音数据估计发音器官的运动轨迹,并将其体现在一个三维虚拟人上面.首先,在一系列参数下对比人工神经网络(Artificial neural network,ANN)和DNN的实验结果,得到最优网络;其次,设置不同上下文声学特征长度并调整隐层单元数,获取最佳长度;最后,选取最优网络结构,由DNN输出的发音器官运动轨迹信息控制发音器官运动合成,实现虚拟人动画.实验证明,本文所实现的动画合成方法高效逼真. 展开更多
关键词 深度神经网络 语音驱动 运动合成 虚拟说话人
下载PDF
Black Box Adversarial Defense Based on Image Denoising and Pix2Pix
12
作者 Zhenyong Rui Xiugang Gong 《Journal of Computer and Communications》 2023年第12期14-30,共17页
Deep Neural Networks (DNN) are widely utilized due to their outstanding performance, but the susceptibility to adversarial attacks poses significant security risks, making adversarial defense research crucial in the f... Deep Neural Networks (DNN) are widely utilized due to their outstanding performance, but the susceptibility to adversarial attacks poses significant security risks, making adversarial defense research crucial in the field of AI security. Currently, robustness defense techniques for models often rely on adversarial training, a method that tends to only defend against specific types of attacks and lacks strong generalization. In response to this challenge, this paper proposes a black-box defense method based on Image Denoising and Pix2Pix (IDP) technology. This method does not require prior knowledge of the specific attack type and eliminates the need for cumbersome adversarial training. When making predictions on unknown samples, the IDP method first undergoes denoising processing, followed by inputting the processed image into a trained Pix2Pix model for image transformation. Finally, the image generated by Pix2Pix is input into the classification model for prediction. This versatile defense approach demonstrates excellent defensive performance against common attack methods such as FGSM, I-FGSM, DeepFool, and UPSET, showcasing high flexibility and transferability. In summary, the IDP method introduces new perspectives and possibilities for adversarial sample defense, alleviating the limitations of traditional adversarial training methods and enhancing the overall robustness of models. 展开更多
关键词 deep neural networks (dnn) Adversarial attack Adversarial Training Fourier Transform Robust Defense
下载PDF
利用混合模型LSTM-DNN进行全球电离层TEC map的中短期预报 被引量:5
13
作者 廖文梯 陈洲 +2 位作者 赵瑜馨 王劲松 唐荣欣 《航天器环境工程》 北大核心 2021年第3期281-286,共6页
近年来,基于深度学习技术的长短期记忆(long short-term memory,LSTM)网络相关预报算法在空间天气的预测方面得到广泛应用,但存在预测误差随时间堆叠的缺陷,因此只能进行有限的短期预测。为解决这一问题,文章将太阳风参数、太阳黑子数... 近年来,基于深度学习技术的长短期记忆(long short-term memory,LSTM)网络相关预报算法在空间天气的预测方面得到广泛应用,但存在预测误差随时间堆叠的缺陷,因此只能进行有限的短期预测。为解决这一问题,文章将太阳风参数、太阳黑子数、地磁活动水平指数Ap以及磁暴环电流指数Dst作为预报因子加入模型,建立一个基于LSTM和深度神经网络(deep neural networks,DNN)的混合模型来进行全球电离层TEC map的中短期预报。该模型可以明显减小时间递增对预测误差的影响。测试结果表明,相较于单独的LSTM模型,LSTM-DNN混合模型对24 h电离层预报准确率相近,对48 h电离层预报平均相对精度(RA)由79.30%提升到81.18%,对144 h电离层预报平均相对精度由64.97%提升到77.64%。 展开更多
关键词 电离层预报 总电子含量 长短期记忆 深度神经网络
下载PDF
基于DT及PCA的DNN入侵检测模型 被引量:4
14
作者 武晓栋 刘敬浩 +1 位作者 金杰 毛思平 《计算机科学与探索》 CSCD 北大核心 2021年第8期1450-1458,共9页
当今入侵检测领域作为一个重要领域,虚警率高、检测率低、处理速度慢、特征维度高等问题正困扰着从事这一领域的专家学者。为了解决这些问题,提出基于决策树(DT)与深度神经网络(DNN)以及主成分分析(PCA)的入侵检测模型DT-PCA-DNN,在相... 当今入侵检测领域作为一个重要领域,虚警率高、检测率低、处理速度慢、特征维度高等问题正困扰着从事这一领域的专家学者。为了解决这些问题,提出基于决策树(DT)与深度神经网络(DNN)以及主成分分析(PCA)的入侵检测模型DT-PCA-DNN,在相对高的检测率和相对低的虚警率的基础上提高入侵检测系统(IDS)的处理速度。为缩小整体数据量达到加快处理速度的目的,首先利用DT对数据初步判别。将DT判别为入侵的数据,存入临时训练样本集以再训练优化DT以及DNN,而DT判别为正常的数据,删除所添加正常标签后用PCA降低数据维度并送入DNN进行二次判别以得出最终结果。DT使用浅层结构以防止过多正常数据被判定为入侵数据,导致后续DNN二次处理时不能有效提高整体准确率。DNN采用简化神经网络计算过程的ReLU激活函数以及收敛速度更快的adam优化算法以加快数据处理速度。经过在NSL-KDD数据集上的二分类及五分类实验验证,相比于其他的应用深度学习的入侵检测方法,所提出模型能够在实现相对高的检测率的同时具有更加迅速的检测速度,有效解决了入侵检测的实时性问题。 展开更多
关键词 决策树(DT) 主成分分析(PCA) 深度神经网络(dnn) 入侵检测
下载PDF
应答器精确安装数据生成与验证方法研究
15
作者 王若昆 何浩洋 张霆伟 《铁路计算机应用》 2023年第9期1-6,共6页
应答器是城市轨道交通(简称:城轨)信号控制系统的重要设备,对列车停车精度和点式列车控制级别下的移动授权传递起到重要作用。文章分析城轨信号系统设备布置结构和设备属性,借助CAD二次开发技术,给出了一种基于.Net平台的应答器精确安... 应答器是城市轨道交通(简称:城轨)信号控制系统的重要设备,对列车停车精度和点式列车控制级别下的移动授权传递起到重要作用。文章分析城轨信号系统设备布置结构和设备属性,借助CAD二次开发技术,给出了一种基于.Net平台的应答器精确安装数据的自动生成方法,提高了数据配置效率。针对数据准确性保障问题,提出了一种基于深度神经网络(DNN,Deep Neural Networks)的模型对应答器精确安装数据进行自动验证。以南昌地铁3号线为例对该模型进行了实验验证,结果表明,应答器精确安装数据的自动生成算法可准确地进行数据生成;采用3层DNN模型,使用ADAM(Adaptive Moment Estimation)优化器,在Batch Size为256,训练集与验证集分割比例为7∶3时,验证模型准确率可达95.45%。 展开更多
关键词 城市轨道交通 数据配置 深度神经网络(dnn) 应答器 精确安装
下载PDF
用于个性化推荐的条件卷积隐因子模型 被引量:4
16
作者 李南星 盛益强 倪宏 《计算机工程》 CAS CSCD 北大核心 2020年第4期85-90,96,共7页
在推荐系统中,传统的矩阵分解无法提取用户和物品特征,而神经协同过滤(NCF)在分解模型中增加多层感知器,但不能有效利用用户和物品ID之外的辅助信息.为此,提出一种新的条件卷积方法.通过将物品特征作为输入,将用户特征作为卷积核,达到... 在推荐系统中,传统的矩阵分解无法提取用户和物品特征,而神经协同过滤(NCF)在分解模型中增加多层感知器,但不能有效利用用户和物品ID之外的辅助信息.为此,提出一种新的条件卷积方法.通过将物品特征作为输入,将用户特征作为卷积核,达到权值不共享的目的,使得条件卷积具有更强的特征提取和组合能力以及不增加参数量的特性.在此基础上,条件卷积能够融入多种辅助信息进行个性化推荐.实验结果表明,与NCF模型相比,该方法在隐性反馈数据中推荐命中率提升3.11%,在显性反馈数据中评分预测误差降低2.47%. 展开更多
关键词 推荐系统 深度神经网络 神经协同过滤 条件卷积 矩阵分解
下载PDF
面向深度神经网络加速芯片的高效硬件优化策略 被引量:4
17
作者 张萌 张经纬 +2 位作者 李国庆 吴瑞霞 曾晓洋 《电子与信息学报》 EI CSCD 北大核心 2021年第6期1510-1517,共8页
轻量级神经网络部署在低功耗平台上的解决方案可有效用于无人机(UAV)检测、自动驾驶等人工智能(AI)、物联网(IOT)领域,但在资源有限情况下,同时兼顾高精度和低延时来构建深度神经网络(DNN)加速器是非常有挑战性的。该文针对此问题提出... 轻量级神经网络部署在低功耗平台上的解决方案可有效用于无人机(UAV)检测、自动驾驶等人工智能(AI)、物联网(IOT)领域,但在资源有限情况下,同时兼顾高精度和低延时来构建深度神经网络(DNN)加速器是非常有挑战性的。该文针对此问题提出一系列高效的硬件优化策略,包括构建可堆叠共享计算引擎(PE)以平衡不同卷积中数据重用和内存访问模式的不一致;提出了可调的循环次数和通道增强方法,有效扩展加速器与外部存储器之间的访问带宽,提高DNN浅层网络计算效率;优化了预加载工作流,从整体上提高了异构系统的并行度。经Xilinx Ultra96 V2板卡验证,该文的硬件优化策略有效地改进了iSmart3-SkyNet和SkrSkr-SkyNet类的DNN加速芯片设计。结果显示,优化后的加速器每秒处理78.576帧图像,每幅图像的功耗为0.068 J。 展开更多
关键词 深度神经网络 目标检测 神经网络加速器 低功耗 硬件优化
下载PDF
一种神经网络模型剪枝后泛化能力的验证方法 被引量:4
18
作者 刘崇阳 刘勤让 《计算机工程》 CAS CSCD 北大核心 2019年第10期234-238,共5页
针对神经网络模型在剪枝操作中Dropout率下调造成的过拟合问题,提出一种剪枝模型泛化能力的验证方法。研究人为遮挡数据集模拟图像范围的变化情况,分析不同Dropout值和剪枝比例对模型准确率的影响,进而得到剪枝操作后模型泛化能力变化... 针对神经网络模型在剪枝操作中Dropout率下调造成的过拟合问题,提出一种剪枝模型泛化能力的验证方法。研究人为遮挡数据集模拟图像范围的变化情况,分析不同Dropout值和剪枝比例对模型准确率的影响,进而得到剪枝操作后模型泛化能力变化的原因。在卷积神经网络模型lenet-5上进行实验,结果表明,剪枝模型泛化能力减弱是因为Dropout率下调和剪枝操作时参数量的变化。 展开更多
关键词 深度神经网络 模型剪枝 深度学习 泛化能力 遮挡数据集
下载PDF
基于动量增强特征图的对抗防御算法
19
作者 胡军 石艺杰 《电子与信息学报》 EI CSCD 北大核心 2023年第12期4548-4555,共8页
深度神经网络(DNN)因其优异的性能而被广泛应用,但易受对抗样本攻击的问题使其面临巨大的安全风险。通过对DNN的卷积过程进行可视化,发现随着卷积层数加深,对抗攻击对原始输入产生的扰动愈加明显。基于这一发现,采用动量法中前向结果修... 深度神经网络(DNN)因其优异的性能而被广泛应用,但易受对抗样本攻击的问题使其面临巨大的安全风险。通过对DNN的卷积过程进行可视化,发现随着卷积层数加深,对抗攻击对原始输入产生的扰动愈加明显。基于这一发现,采用动量法中前向结果修正后向结果的思想,该文提出一种基于动量增强特征图的防御算法(MEF)。MEF算法在DNN的卷积层上部署特征增强层构成特征增强块(FEB),FEB会结合原始输入以及浅层卷积层的特征图生成特征增强图,进而利用特征增强图来增强深层的特征图。同时,为了保证每层特征增强图的有效性,增强后的特征图还会对特征增强图进行进一步更新。为验证MEF算法的有效性,使用多种白盒与黑盒攻击对部署MEF算法的DNN模型进行攻击实验,结果表明在投影梯度下降法(PGD)以及快速梯度符号法(FGSM)的攻击实验中,MEF算法对对抗样本的识别精度比对抗训练(AT)高出3%~5%,且对干净样本的识别精度也有所提升。此外,使用比训练时更强的对抗攻击方法进行测试时,与目前先进的噪声注入算法(PNI)以及特征扰动算法(L2P)相比,MEF算法表现出更强的鲁棒性。 展开更多
关键词 深度神经网络 对抗样本 对抗防御 动量方法 特征增强
下载PDF
针对ASR系统的快速有目标自适应对抗攻击 被引量:3
20
作者 张树栋 高海昌 +1 位作者 曹曦文 康帅 《西安电子科技大学学报》 EI CAS CSCD 北大核心 2021年第1期168-175,共8页
对抗样本是一种恶意输入,通过在输入中添加人眼无法察觉的微小扰动来误导深度学习模型产生错误的输出。近年来,随着对抗样本研究的发展,除了大量图像领域的对抗样本工作,在自动语音识别领域也开始有一些新进展。目前,针对自动语音识别... 对抗样本是一种恶意输入,通过在输入中添加人眼无法察觉的微小扰动来误导深度学习模型产生错误的输出。近年来,随着对抗样本研究的发展,除了大量图像领域的对抗样本工作,在自动语音识别领域也开始有一些新进展。目前,针对自动语音识别系统的最先进的对抗攻击来自Carlini&Wagner,其方法是通过获得使模型被错误分类的最小扰动来生成成功的对抗样本。因为这种方法需要同时优化两个损失函数项,通常需要进行数千次迭代,效率低下,因此提出了A-FTA方法。该方法通过最大化自动语音识别模型关于对抗样本的预测和目标短语之间的相似度来快速生成对抗样本,并且在攻击过程中根据是否攻击成功自适应地调整扰动大小,从而生成较小扰动的对抗样本。实验结果表明,这种方法相比于目前最先进的方法,用更少的迭代次数取得了更好的攻击结果,在高效的同时依然能保证很高的攻击成功率。 展开更多
关键词 深度神经网络 对抗样本 语音识别 机器学习 对抗攻击
下载PDF
上一页 1 2 9 下一页 到第
使用帮助 返回顶部