期刊文献+
共找到2篇文章
< 1 >
每页显示 20 50 100
深度学习数据窃取攻击在数据沙箱模式下的威胁分析与防御方法研究 被引量:9
1
作者 潘鹤中 韩培义 +3 位作者 向夏雨 段少明 刘川意 《通信学报》 EI CSCD 北大核心 2021年第11期133-144,共12页
详细分析了数据沙箱模式下,深度学习数据窃取攻击的威胁模型,量化评估了数据处理阶段和模型训练阶段攻击的危害程度和鉴别特征。针对数据处理阶段的攻击,提出基于模型剪枝的数据泄露防御方法,在保证原模型可用性的前提下减少数据泄露量... 详细分析了数据沙箱模式下,深度学习数据窃取攻击的威胁模型,量化评估了数据处理阶段和模型训练阶段攻击的危害程度和鉴别特征。针对数据处理阶段的攻击,提出基于模型剪枝的数据泄露防御方法,在保证原模型可用性的前提下减少数据泄露量;针对模型训练阶段的攻击,提出基于模型参数分析的攻击检测方法,从而拦截恶意模型防止数据泄露。这2种防御方法不需要修改或加密数据,也不需要人工分析深度学习模型训练代码,能够更好地应用于数据沙箱模式下数据窃取防御。实验评估显示,基于模型剪枝的防御方法最高能够减少73%的数据泄露,基于模型参数分析的检测方法能够有效识别95%以上的攻击行为。 展开更多
关键词 数据沙箱 数据窃取 AI安全
下载PDF
基于生成对抗网络技术的医疗仿真数据生成方法 被引量:3
2
作者 向夏雨 王佳慧 +5 位作者 王子睿 段少明 潘鹤中 韩培义 刘川意 《通信学报》 EI CSCD 北大核心 2022年第3期211-224,共14页
对结构化电子健康档案中行的概率分布进行建模并生成仿真数据非常困难,因为表格数据通常包含定类列,传统编码方式可能产生特征维数灾难的问题,从而使建模异常困难。针对这一问题,提出利用庞加莱球模型建模医疗分类特征的层级结构,并采... 对结构化电子健康档案中行的概率分布进行建模并生成仿真数据非常困难,因为表格数据通常包含定类列,传统编码方式可能产生特征维数灾难的问题,从而使建模异常困难。针对这一问题,提出利用庞加莱球模型建模医疗分类特征的层级结构,并采用高斯耦合的生成对抗网络技术合成结构化的电子健康档案。实验表明,该方法生成的训练数据能够在保证隐私性的前提下,实现与原始数据仅相差2%的可用性差异。 展开更多
关键词 生成对抗网络 表示学习 隐私性与可用性分析 电子健康档案
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部