-
题名多媒体模型对抗攻防综述
被引量：1
- 1
-
-
作者
陈凯
魏志鹏
陈静静
姜育刚
-
机构
复旦大学计算机科学技术学院
上海市智能信息处理重点实验室
-
出处
《计算机科学》
CSCD
北大核心
2021年第3期27-39,共13页
-
基金
国家自然科学基金(62032006)
上海市科委项目(20511101000)。
-
文摘
近年来,随着以深度学习为代表的人工智能技术的快速发展和广泛应用,人工智能正深刻地改变着社会生活的各方面。然而,人工智能模型也容易受到来自精心构造的“对抗样本”的攻击。通过在干净的图像或视频样本上添加微小的人类难以察觉的扰动,就能够生成可以欺骗模型的样本,进而使多媒体模型在推理过程中做出错误决策,为多媒体模型的实际应用部署带来严重的安全威胁。鉴于此,针对多媒体模型的对抗样本生成与防御方法引起了国内外学术界、工业界的广泛关注,并出现了大量的研究成果。文中对多媒体模型对抗攻防领域的进展进行了深入调研,首先介绍了对抗样本生成与防御的基本原理和相关背景知识,然后从图像和视频两个角度回顾了对抗攻防技术在多媒体视觉信息领域的发展历程与最新成果,最后总结了多媒体视觉信息对抗攻防技术目前面临的挑战和有待进一步探索的方向。
-
关键词
对抗攻击
对抗防御
深度学习
图像对抗样本
视频对抗样本
-
Keywords
adversarial attack
adversarial defense
Deep learning
Image adversarial sample
video adversarial sample
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
