-
题名基于特征可视化分析深度神经网络的内部表征
被引量：2
- 1
-
-
作者
尚骏远
杨乐涵
何琨
-
机构
华中科技大学计算机学院
-
出处
《计算机科学》
CSCD
北大核心
2020年第5期190-197,共8页
-
基金
国家自然科学基金(61772219)
中央高校基本科研业务费专项资金(2019kfyXKJC021)。
-
文摘
基于可视化的方式理解深度神经网络能直观地揭示其工作机理,即提供了黑盒模型做出决策的解释,在医疗诊断、自动驾驶等领域尤其重要。大部分现有工作均基于激活值最大化框架,即选定待观测神经元,通过优化输入值(如隐藏层特征图谱、原始图片),定性地将待观测神经元产生最大激活值时输入值的改变作为一种解释。然而,这种方法缺乏对深度神经网络深入的定量分析。文中提出了结构可视化和基于规则可视化两种可视化的元方法。结构可视化从浅至深依层可视化,发现浅层神经元具有一般性的全局特征,而深层神经元更针对细节特征。基于规则可视化包括交集与差集规则,可以帮助发现共享神经元与抑制神经元的存在,它们分别学习了不同类别的共有特征与抑制不相关的特征。实验针对代表性卷积网络VGG和残差网络ResNet在ImageNet和微软COCO数据集上进行了分析。通过量化分析发现,ResNet和VGG均有很高的稀疏性,通过屏蔽一些低激活值的“噪音”神经元,发现其对深度神经网络分类准确率均没有影响,甚至有一定程度的提高作用。文中通过可视化和量化分析深度神经网络的隐藏层特征,揭示其内部特征表达,从而为高性能深度神经网络的设计提供指导和借鉴。
-
关键词
深度神经网络
特征可视化
内部表征
共用神经元
抑制神经元
-
Keywords
Deep neural network
Feature visualization
Internal representation
Shared neuron
Inhibition neuron
-
分类号
TP830
[自动化与计算机技术—检测技术与自动化装置]
-
-
题名生命体征时序数据的可计算表型提取研究与应用
- 2
-
-
作者
洪申达
李红燕
孙陈希
尚骏远
-
机构
北京大学健康医疗大数据国家研究院
北京大学医学部医学技术研究院
北京大学智能学院
北京大学机器感知与智能教育部重点实验室
-
出处
《中国科技成果》
2023年第10期1-2,共2页
-
文摘
人体是一种典型的复杂系统,基于连续监测的人体呼吸、脉搏、血压、血氧、心电、脑电等生命体征时序数据,采用数据驱动的方式提取其中与人体健康状况相关的可计算表型(Computational Phenotype),是评估人体健康状况的重要手段.对于院前疾病筛查、院中病情进展预测、院后健康管理均具有重大意义.
-
关键词
时序数据
人体健康状况
数据驱动
连续监测
生命体征
-
分类号
TP3
[自动化与计算机技术—计算机科学与技术]
-
