-
题名一种基于几何探测的快速黑盒边界攻击算法
被引量：2
- 1
-
-
作者
刘昊
张泽辉
夏晓帆
高铁杠
-
机构
南开大学软件学院
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2023年第2期435-447,共13页
-
基金
国家科技重大专项(2018YFB0204304)。
-
文摘
随着深度学习应用的愈发广泛,针对深度学习模型的安全性研究也变得至关重要.在商业应用中,深度学习的模型往往处于应用的底层,一旦对底层模型攻击成功,可能会给商业应用带来巨大的损失.好的攻击算法可以很好的对深度学习模型进行风险评估,从而避免损失.针对实际场景中存在的Hard-label问题,现存算法解决此问题都需要上万次查询,具有很高的攻击成本,提出了FastGBA(fast geometric boundary attack)攻击算法:一种在样本空间内针对决策边界进行几何探测的攻击算法,初始从具有较大扰动的对抗样本出发,进行二分逼近至决策边界附近,最终在决策边界附近进行邻域几何探测来缩短样本距离.FastGBA攻击算法在4个深度学习模型上同SurFree攻击算法以及HSJA(hop skip jump attack)攻击算法进行了对比实验,在查询次数不超过500次,中等扰动(L2距离≤10)的限制条件下,攻击成功率在4个深度学习模型上相较于SurFree攻击算法提升了14.5%~24.4%,相较于HSJA攻击算法提升了28.9%~36.8%.
-
关键词
对抗样本
黑盒攻击
几何攻击
自注意力机制
深度学习
神经网络
-
Keywords
adversarial example
black-box attack
geometric attack
self-attention mechanism
deep learning
neural network
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名浅析人工智能在计算机网络中的应用
被引量：1
- 2
-
-
作者
夏晓帆
-
机构
山东科技大学计算机科学与工程学院
-
出处
《中国新通信》
2020年第7期110-110,共1页
-
文摘
随着经济增长水平的快速提升,科学技术也得到了飞速发展,计算机技术得到广泛应用,给人工智能的发展奠定了一定的基础。而且随着互联网技术和计算机技术的不断更新,用户的需求也越来越多,对于计算机网络而言,朝着人性化、智能化方向发展是未来的大势所趋。将人工智能技术应用到计算机网络中将会大大推动其发展进程。本论文首先对人工智能技术进行了简单的介绍,其次通过介绍人工智能技术应用到计算机网络有什么优势探讨其在计算机网络中的实际应用。
-
关键词
人工智能
计算机网络
科学技术
-
分类号
TP393.0
[自动化与计算机技术—计算机应用技术]
TP18
[自动化与计算机技术—计算机科学与技术]
-
