-
题名基于特征可视化分析深度神经网络的内部表征
被引量：2
- 1
-
-
作者
尚骏远
杨乐涵
何琨
-
机构
华中科技大学计算机学院
-
出处
《计算机科学》
CSCD
北大核心
2020年第5期190-197,共8页
-
基金
国家自然科学基金(61772219)
中央高校基本科研业务费专项资金(2019kfyXKJC021)。
-
文摘
基于可视化的方式理解深度神经网络能直观地揭示其工作机理,即提供了黑盒模型做出决策的解释,在医疗诊断、自动驾驶等领域尤其重要。大部分现有工作均基于激活值最大化框架,即选定待观测神经元,通过优化输入值(如隐藏层特征图谱、原始图片),定性地将待观测神经元产生最大激活值时输入值的改变作为一种解释。然而,这种方法缺乏对深度神经网络深入的定量分析。文中提出了结构可视化和基于规则可视化两种可视化的元方法。结构可视化从浅至深依层可视化,发现浅层神经元具有一般性的全局特征,而深层神经元更针对细节特征。基于规则可视化包括交集与差集规则,可以帮助发现共享神经元与抑制神经元的存在,它们分别学习了不同类别的共有特征与抑制不相关的特征。实验针对代表性卷积网络VGG和残差网络ResNet在ImageNet和微软COCO数据集上进行了分析。通过量化分析发现,ResNet和VGG均有很高的稀疏性,通过屏蔽一些低激活值的“噪音”神经元,发现其对深度神经网络分类准确率均没有影响,甚至有一定程度的提高作用。文中通过可视化和量化分析深度神经网络的隐藏层特征,揭示其内部特征表达,从而为高性能深度神经网络的设计提供指导和借鉴。
-
关键词
深度神经网络
特征可视化
内部表征
共用神经元
抑制神经元
-
Keywords
Deep neural network
Feature visualization
Internal representation
Shared neuron
Inhibition neuron
-
分类号
TP830
[自动化与计算机技术—检测技术与自动化装置]
-
-
题名图形藏在生活中
- 2
-
-
作者
杨乐涵
-
机构
安徽省合肥市
-
出处
《少年科普世界（快乐数学1-3年级版）》
2017年第11期34-34,共1页
-
文摘
数学课上，孙老师给我们讲了平面图形。我认识了正方形、长方形、三角形和圆。四条边都相等，四个角都是直角。对边相等，四个角都是直角。三条边，三个角。
-
关键词
平面图形
生活
数学课
正方形
长方形
三角形
相等
直角
-
分类号
O1-4
[理学—数学]
-
-
题名家乡的国庆节
- 3
-
-
作者
杨乐涵
-
机构
福建省漳州市长泰县第二实验小学二年级
-
出处
《快乐语文（下旬）》
2012年第11期69-69,共1页
-
文摘
今天是国庆节，我和妈妈走出家门，映入眼帘的是写着“欢度国庆”四个大字的红布条。家家户户张灯结彩，有的门前还摆放着五颜六色的花草。最引人注目的是那高高飘扬的五星红旗。
-
关键词
国庆节
家乡
五星红旗
-
分类号
F592.3
[经济管理—旅游管理]
-
