期刊导航
期刊开放获取
cqvip
退出
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
3
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
MC-infer:DLaaS中的零知识和无真实数据模型推理攻击
1
作者
吴峰
杨家勋
《网络空间安全科学学报》
2023年第2期46-58,共13页
深度学习即服务(DLaaS)的服务模式容易受到模型推理攻击影响。现有的推理攻击要求攻击者拥有足够的辅助信息来进行推理,这并不能完全展示出推理攻击的潜在威胁,因此,提出了MC-infer,一种零知识、无真实数据的黑盒模型推理攻击。MC-infe...
深度学习即服务(DLaaS)的服务模式容易受到模型推理攻击影响。现有的推理攻击要求攻击者拥有足够的辅助信息来进行推理,这并不能完全展示出推理攻击的潜在威胁,因此,提出了MC-infer,一种零知识、无真实数据的黑盒模型推理攻击。MC-infer将从不同随机分布获得的随机噪声输入给目标模型,并根据其输出估计相应的目标分布进行模型推理。使用了蒙特卡洛对MC-infer进行了理论分析,证明了其在理论层面的可行性。实验表明MCinfer可以有效地推断目标模型。此外,研究了MC-infer的局限性和复杂性,最后讨论了几种防止攻击的策略。
展开更多
关键词
蒙特卡洛
模型推理攻击
深度学习即服务
模型隐私保护
分布拟合
下载PDF
职称材料
基于重力模型生成假轨迹的隐私保护方法
被引量：
2
2
作者
张翠
《北京邮电大学学报》
EI
CAS
CSCD
北大核心
2017年第2期57-66,共10页
针对连续查询场景中用户实时位置的隐私保护问题,设计了一种基于客户端的假轨迹生成方法.该方法使用网格划分地理空间,统计网格划分后每个网格内的历史查询数据.通过分析网格内的历史查询数据构建实时预测用户移动轨迹的重力模型.在重...
针对连续查询场景中用户实时位置的隐私保护问题,设计了一种基于客户端的假轨迹生成方法.该方法使用网格划分地理空间,统计网格划分后每个网格内的历史查询数据.通过分析网格内的历史查询数据构建实时预测用户移动轨迹的重力模型.在重力模型基础上结合历史查询概率定义了轨迹熵度量轨迹隐私保护等级,并在最大运行速度限制下,提出了一种具有最大轨迹熵的基于k-匿名的假轨迹隐私保护算法.实验结果验证了所设计的假轨迹生成方法能够有效地保护真实轨迹的隐私.
展开更多
关键词
连续位置服务
重力模型
轨迹隐私
推理攻击
原文传递
基于多路冗余神经元的主动成员推理攻击方法
3
作者
汪德刚
孙奕
高琦
《计算机科学》
CSCD
北大核心
2024年第4期373-380,共8页
联邦学习通过交换模型参数或梯度信息来提供对原始数据的隐私保障,但其仍然存在隐私泄露的问题,如成员推理攻击旨在推断目标数据样本是否被用于联邦学习中训练机器学习模型。针对联邦学习中现有基于模型参数构造的主动成员推理攻击对随...
联邦学习通过交换模型参数或梯度信息来提供对原始数据的隐私保障,但其仍然存在隐私泄露的问题,如成员推理攻击旨在推断目标数据样本是否被用于联邦学习中训练机器学习模型。针对联邦学习中现有基于模型参数构造的主动成员推理攻击对随机失活等操作鲁棒性较差的问题,提出了一种基于多路冗余神经元的主动成员推理攻击方法,利用ReLU激活函数输入为负、输出为0的特性,根据待推理目标数据构造模型参数,通过观察成员数据与非成员数据在模型参数更新上的差异进行成员推断,并利用模型神经元的冗余特性构建多个通路实现对随机失活的鲁棒性。在MNIST,CIFAR10以及CIFAR100数据集上的实验证明了该方法的有效性,在引入随机失活的情况下,所提方法仍然能够达到100%的准确率。
展开更多
关键词
联邦学习
机器学习模型
多路冗余神经元
主动成员推理攻击
下载PDF
职称材料
题名
MC-infer:DLaaS中的零知识和无真实数据模型推理攻击
1
作者
吴峰
杨家勋
机构
云南大学跨境网络空间安全教育部工程研究中心
云南大学信息学院
出处
《网络空间安全科学学报》
2023年第2期46-58,共13页
基金
国家自然科学基金(61863036)
云南省“放管服”基础研究计划(202001BB050076)
+1 种基金
云南省重点领域科技计划(202202AD080002)
中央高校基本科研业务费专项资金(2042022kf0021)。
文摘
深度学习即服务(DLaaS)的服务模式容易受到模型推理攻击影响。现有的推理攻击要求攻击者拥有足够的辅助信息来进行推理,这并不能完全展示出推理攻击的潜在威胁,因此,提出了MC-infer,一种零知识、无真实数据的黑盒模型推理攻击。MC-infer将从不同随机分布获得的随机噪声输入给目标模型,并根据其输出估计相应的目标分布进行模型推理。使用了蒙特卡洛对MC-infer进行了理论分析,证明了其在理论层面的可行性。实验表明MCinfer可以有效地推断目标模型。此外,研究了MC-infer的局限性和复杂性,最后讨论了几种防止攻击的策略。
关键词
蒙特卡洛
模型推理攻击
深度学习即服务
模型隐私保护
分布拟合
Keywords
Monte
Carlo
model
inference
attacks
deep
learning
as
a
service(DLaaS)
model
privacy
protec-tion
distribution
fitting
分类号
TP309 [自动化与计算机技术—计算机系统结构]
下载PDF
职称材料
题名
基于重力模型生成假轨迹的隐私保护方法
被引量：
2
2
作者
张翠
机构
中国科学院信息工程研究所信息安全国家重点实验室
中国科学院大学网络空间安全学院
出处
《北京邮电大学学报》
EI
CAS
CSCD
北大核心
2017年第2期57-66,共10页
基金
国家高技术研究发展计划(863计划)项目(2015AA016007)
国家自然科学基金青年基金项目(61502489)
文摘
针对连续查询场景中用户实时位置的隐私保护问题,设计了一种基于客户端的假轨迹生成方法.该方法使用网格划分地理空间,统计网格划分后每个网格内的历史查询数据.通过分析网格内的历史查询数据构建实时预测用户移动轨迹的重力模型.在重力模型基础上结合历史查询概率定义了轨迹熵度量轨迹隐私保护等级,并在最大运行速度限制下,提出了一种具有最大轨迹熵的基于k-匿名的假轨迹隐私保护算法.实验结果验证了所设计的假轨迹生成方法能够有效地保护真实轨迹的隐私.
关键词
连续位置服务
重力模型
轨迹隐私
推理攻击
Keywords
continuous
location-based
services
gravity
model
trajectory
privacy
inference
attack
分类号
TN929.5 [电子电信—通信与信息系统]
原文传递
题名
基于多路冗余神经元的主动成员推理攻击方法
3
作者
汪德刚
孙奕
高琦
机构
信息工程大学密码工程学院
出处
《计算机科学》
CSCD
北大核心
2024年第4期373-380,共8页
文摘
联邦学习通过交换模型参数或梯度信息来提供对原始数据的隐私保障,但其仍然存在隐私泄露的问题,如成员推理攻击旨在推断目标数据样本是否被用于联邦学习中训练机器学习模型。针对联邦学习中现有基于模型参数构造的主动成员推理攻击对随机失活等操作鲁棒性较差的问题,提出了一种基于多路冗余神经元的主动成员推理攻击方法,利用ReLU激活函数输入为负、输出为0的特性,根据待推理目标数据构造模型参数,通过观察成员数据与非成员数据在模型参数更新上的差异进行成员推断,并利用模型神经元的冗余特性构建多个通路实现对随机失活的鲁棒性。在MNIST,CIFAR10以及CIFAR100数据集上的实验证明了该方法的有效性,在引入随机失活的情况下,所提方法仍然能够达到100%的准确率。
关键词
联邦学习
机器学习模型
多路冗余神经元
主动成员推理攻击
Keywords
Federated
learning
Machine
learning
model
multiple
redundant
neurons
Active
membership
inference
attack
分类号
TP309 [自动化与计算机技术—计算机系统结构]
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
MC-infer:DLaaS中的零知识和无真实数据模型推理攻击
吴峰
杨家勋
《网络空间安全科学学报》
2023
0
下载PDF
职称材料
2
基于重力模型生成假轨迹的隐私保护方法
张翠
《北京邮电大学学报》
EI
CAS
CSCD
北大核心
2017
2
原文传递
3
基于多路冗余神经元的主动成员推理攻击方法
汪德刚
孙奕
高琦
《计算机科学》
CSCD
北大核心
2024
0
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
