-
题名一种针对多核神经网络处理器的窃取攻击
被引量：2
- 1
-
-
作者
高成思
陈维伟
王颖
-
机构
中国科学院计算技术研究所
中国科学院大学
-
出处
《信息安全学报》
CSCD
2020年第3期23-34,共12页
-
基金
国家自然基金(No.61876173)
中国科学院战略性先导专项项目(No.XDC05030201)资助。
-
文摘
随着神经网络的广泛应用,它自身的安全问题也成为了一个重要的研究课题。将神经网络部署到神经网络处理器上运行是提高能效比的有效方法,但同时也引入了一些新的安全问题,比如侧信道信息泄露,本文以多核CNN处理器为基础,利用时间和内存侧信道信息,提出了一种针对多核CNN处理器的用户算法信息窃取攻击方法,经过试验证明了攻击的有效性,并针对多核神经网络处理器在时间和内存侧信道方面的脆弱性,提出了有效的防御手段,对如何保护神经网络处理器的安全提供了一定的参考意义。
-
关键词
神经网络
CNN处理器
多核
侧信道
模型窃取
-
Keywords
neural network
convolution neural network accelerator
multi-core
side-channel
model extraction attack
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
-
题名基于侧信道与量化推理缺陷的模型逆向攻击
被引量：1
- 2
-
-
作者
李景海
唐明
黄诚轩
-
机构
武汉大学国家网络安全学院空天信息安全与可信计算教育部重点实验室
密码科学技术国家重点实验室
-
出处
《网络与信息安全学报》
2021年第4期53-67,共15页
-
基金
国家自然科学基金(61972295)
武汉市科技项目应用基础前沿专项(2019010701011407)。
-
文摘
模型逆向攻击旨在恢复部署在推理终端的神经网络模型的结构和权重值,是AI安全中的基础问题,为对抗样本等高阶攻击提供数据支撑。提出了一种名为Cluster-based SCA的新型模型权重逆向方法,该方法不要求攻击者构造泄露模型。Cluster-based SCA方法以量化推理中存在的安全隐患为出发点,深入分析了量化推理过程,发现在量化推理中存在的输出序列分类不等价现象可以判断猜测权重的正确与否。Cluster-based SCA将采集到的模型运行时产生的侧信道信息按照假设权重产生的中间值进行分类,以分类后的平均离散系数σ为评判标准,取σ最小时的权重为逆向权重。在仿真实验上验证了Cluster-based SCA方法的有效性,实验使用汉明重模型来模拟AI芯片的泄露模型,对于目标CNN,Cluster-based SCA方法以52.66%的TOP2恢复率恢复了其第一层卷积层所有卷积核权重,对于取值位于显著区的权重,TOP2的恢复率均达到了100%。
-
关键词
AI安全
模型逆向攻击
量化推理缺陷
侧信道分析
Cluster-based
SCA
-
Keywords
AI security
model extraction attack
quantization vulnerability
side-channel analysis
Cluster-based SCA
-
分类号
TP309.2
[自动化与计算机技术—计算机系统结构]
-
-
题名面向图神经网络模型提取攻击的图数据生成方法
- 3
-
-
作者
杨莹
郝晓燕
于丹
马垚
陈永乐
-
机构
太原理工大学计算机科学与技术学院(大数据学院)
-
出处
《计算机应用》
CSCD
北大核心
2024年第8期2483-2492,共10页
-
基金
山西省基础研究计划项目(20210302123131,20210302124395)
山西省自然科学基金面上项目(202203021221234)
计划外技术服务横向项目(RH2100005181)。
-
文摘
无数据模型提取攻击是基于攻击者在进行攻击时所需的训练数据信息未知的情况下提出的一类机器学习安全问题。针对无数据模型提取攻击在图神经网络(GNN)领域的研究缺乏,提出分别用GNN可解释性方法GNNExplainer和图数据增强方法GAUG-M优化图节点特征信息和边信息生成所需图数据,最终提取GNN模型的方法。首先,利用GNNExplainer方法对目标模型的响应结果进行可解释性分析得到重要的图节点特征信息;其次,通过对重要的图节点特征加权,对非重要图节点特征降权,实现图节点特征信息的整体优化;然后,使用图形自动编码器作为边信息预测模块,根据优化后的图节点特征得到节点与节点之间的连接概率;最后,根据概率增加或者删减相应边优化边信息。实验采用5个图数据集训练的3种GNN模型架构作为目标模型提取攻击,得到的替代模型达到了73%~87%的节点分类任务准确性和76%~89%的与目标模型性能的一致性,验证了所提方法的有效性。
-
关键词
无数据模型提取攻击
图数据生成
图神经网络
图神经网络可解释性
图数据增强
-
Keywords
data-free model extraction attack
graph data generation
Graphical Neural Network(GNN)
GNN interpretability
graph data enhancement
-
分类号
TP309
[自动化与计算机技术—计算机系统结构]
-
