深度伪造技术的法律挑战及应对 被引量：30

1

作者 曹建峰 《信息安全与通信保密》 2019年第10期35-40,共6页

深度伪造技术(Deepfake)的出现,使得篡改或生成高度逼真且难以甄别的音视频内容成为可能。这被美国等西方国家视为重大的国家安全威胁,美国已在推动相关立法,以期阻止该项技术的不当利用。对此,可以通过研发鉴伪和溯源技术、教育提升社... 深度伪造技术(Deepfake)的出现,使得篡改或生成高度逼真且难以甄别的音视频内容成为可能。这被美国等西方国家视为重大的国家安全威胁,美国已在推动相关立法,以期阻止该项技术的不当利用。对此,可以通过研发鉴伪和溯源技术、教育提升社会公众素养、合理配置法律责任等举措包容审慎监管和治理,避免该项技术的滥用,并促进该项技术在教育、文创、娱乐等方面的积极作用。 展开更多

关键词 深度伪造 生成对抗网络 国家安全 鉴伪技术 公众意识培养

下载PDF 职称材料

“深度伪造”的风险及对策研究 被引量：16

2

作者 曹建峰 方龄曼 《信息安全与通信保密》 2020年第2期89-97,共9页

深度伪造技术是人工智能发展到一定阶段的产物,其高度的逼真性引发诸多争议。美国国会召开的深度伪造的听证会深入探讨了该技术对个人、社会和国家的潜在风险,同时从技术、法律、教育等角度提出相对的防范措施。整体而言,对深度伪造技... 深度伪造技术是人工智能发展到一定阶段的产物,其高度的逼真性引发诸多争议。美国国会召开的深度伪造的听证会深入探讨了该技术对个人、社会和国家的潜在风险,同时从技术、法律、教育等角度提出相对的防范措施。整体而言,对深度伪造技术不能一概否决,在加强对影响国家安全、公共安全的虚假信息的监管和规制的同时,也要发挥深度伪造技术在教育、艺术、医疗等领域的积极作用。 展开更多

关键词 深度伪造 合成内容 国家安全 鉴伪技术

下载PDF 职称材料

“零信任”在云化业务中的安全技术研究 被引量：12

3

作者 杨正权 靳明星 张晓东 《信息安全与通信保密》 2020年第3期91-98,共8页

信息安全包含了网络安全、数据安全、应用安全、行为安全等,未来还有更多安全形式出现。过去我们在规避信息安全的风险问题上更多是从网络安全这个层面来考虑的,基本上保护的都是网络和网络设备本身。在业务系统迁移到云上的趋势下,用... 信息安全包含了网络安全、数据安全、应用安全、行为安全等,未来还有更多安全形式出现。过去我们在规避信息安全的风险问题上更多是从网络安全这个层面来考虑的,基本上保护的都是网络和网络设备本身。在业务系统迁移到云上的趋势下,用户更加关注的是云化应用自身的安全和应用产生的数据的安全。基于传统网络安全模型或者网络攻防的安全策略属于被动的防御,是一种被动的安全,组织往往要提前识别可能遭受到的网络攻击风险,然后考虑应对策略。现在和未来,需要一系列的主动安全,比如零信任的安全方案,对于应用安全来说,就是主动安全,通过账号安全将安全边界前移用户侧,可视化技术实现从用户访问上下文行为分析,从而实现零信任的控制接入,控制访问细颗粒度的权限来实现对应用系统的主动防御。 展开更多

关键词 零信任 软件定义边界 可视化 账号安全

下载PDF 职称材料

深度伪造技术的监管困境及其法律应对 被引量：10

4

作者 毛宁 杨会 《长白学刊》 北大核心 2021年第5期94-101,共8页

深度伪造(Deepfake)技术是基于人工智能深度学习算法,模拟、伪造人类生物和行为特征生成影像信息的技术。它会对国家法律法规、制度造成一定程度的威胁和挑战,增加网络公共空间信息骚扰、网络诈骗等违法行为的辨识和整治难度,给个人的... 深度伪造(Deepfake)技术是基于人工智能深度学习算法,模拟、伪造人类生物和行为特征生成影像信息的技术。它会对国家法律法规、制度造成一定程度的威胁和挑战,增加网络公共空间信息骚扰、网络诈骗等违法行为的辨识和整治难度,给个人的社会信息安全和合法权益带来风险,针对政治人物的深度伪造则会扰乱公共秩序,甚至威胁国家安全。构建以科学引导、正确应用、有效监管为指向的风险评估应用监管体系,科学评估深度伪造技术存在的破坏潜力和发展趋势,将其应用于医学成像、影视制作等领域,在发挥其积极效用的同时,提升辨伪能力,应对深度伪造技术恶意使用所造成的威胁和破坏,以规避其现存法律风险,破解其可能面临的监管困境。 展开更多

关键词 深度伪造技术 人工智能 技术辨伪 法律风险

下载PDF 职称材料

网络传播中“深度伪造”技术及其产物的刑法规制 被引量：5

5

作者 范玉吉 于雅洁 《犯罪研究》 2022年第1期51-60,共10页

“深度伪造”是人工智能发展新阶段的成果之一。“深度伪造”与“深度合成”技术原理相同,但“深度伪造”技术及其产物天生具有虚假性特征,网络传播中易被滥用。“深度伪造”技术及其产物在网络中大肆传播,不仅使得网络空间充斥着虚假信... “深度伪造”是人工智能发展新阶段的成果之一。“深度伪造”与“深度合成”技术原理相同,但“深度伪造”技术及其产物天生具有虚假性特征,网络传播中易被滥用。“深度伪造”技术及其产物在网络中大肆传播,不仅使得网络空间充斥着虚假信息,破坏清朗的网络空间,而且对公民个人信息、正常司法活动、社会信任造成威胁,甚至可能被用于挑起民族矛盾、国际争端等危害活动。其危害的严重性已经超越民法的调整范畴。在此背景下,自由价值让位于秩序价值,需要利用刑法进行规制。在坚持罪刑法定原则的前提下,刑法通过明确主体及其注意义务,力求公平地分配各主体的责任,从而达到预防目的。 展开更多

关键词 网络传播 “深度伪造” 秩序与自由 刑法预防

下载PDF 职称材料

一个新的关于深度伪造技术的社会风险评估方法

6

作者 马丽霞 高格格 +1 位作者 魏云捷 赫然 《管理评论》 CSSCI 北大核心 2024年第8期119-132,共14页

深度合成(deep synthesis)技术作为人工智能(artificial intelligence)商业化应用的新兴领域,正日益受到社会公众的关注。深度伪造(deepfake)技术是深度合成技术的破坏性应用,对国家安全、社会安全、公民个人安全等构成了较大的威胁,我... 深度合成(deep synthesis)技术作为人工智能(artificial intelligence)商业化应用的新兴领域,正日益受到社会公众的关注。深度伪造(deepfake)技术是深度合成技术的破坏性应用,对国家安全、社会安全、公民个人安全等构成了较大的威胁,我国及欧美发达国家政府、公司和个人均高度重视其进一步的发展演变。针对现有面向深度伪造技术社会风险定量评估方法缺乏及规制体系不足的问题,本文在综合层次分析法和模糊综合评价等方法的基础上,提出了一个新的用于评价深度伪造技术的社会风险的评估方法。依据评估结果,本文进一步提出了关于我国深度伪造技术目前正处于“中高”社会风险阶段的观点,并进而合理推断出:理论技术不成熟、法律监管不健全、产品服务漏洞多是当前我国深度伪造技术面临的主要问题。本文建立的评估指标体系能够为我国深度伪造技术的应用、社会风险研究的进一步深入提供支持,对规制深度伪造技术社会风险提出的建议能够为有关部门的决策提供参考。 展开更多

关键词 深度伪造技术 新兴技术应用 网络内容安全

原文传递

深度伪造检测技术发展现状研究及启示 被引量：4

7

作者 白国柱 王蓓蓓 《信息安全研究》 2020年第9期818-822,共5页

Deepfake(深度伪造)技术可以生成人类肉眼无法辨别的虚假图像、视频,Deepfake与社交网络结合会给个人和社会带来极大的信息安全隐患.因此,能够自动检测和评估数字视觉媒体完整性的技术方案就显得尤为重要.从深度学习检测算法、数字来源... Deepfake(深度伪造)技术可以生成人类肉眼无法辨别的虚假图像、视频,Deepfake与社交网络结合会给个人和社会带来极大的信息安全隐患.因此,能够自动检测和评估数字视觉媒体完整性的技术方案就显得尤为重要.从深度学习检测算法、数字来源取证和生命日志记录3个方向,回顾了Deepfake检测技术的发展现状,分析了不同反制方案面临的风险与挑战.研究表明,目前没有一个完美的解决方案能够有效应对Deepfake技术的现实威胁.最后,立足我国基本国情,对我国Deepfake检测技术的发展提出了建议. 展开更多

关键词 深度伪造 检测技术 研究现状 挑战 启示

下载PDF 职称材料

深度伪造技术在网络空间安全领域的威胁与应对策略

8

作者 宫文涛 秦晓磊 +1 位作者 刘芮汐 崔喻 《中国科技纵横》 2024年第20期16-19,101,共5页

随着人工智能技术的快速发展,深度伪造(Deepfake)技术成为网络空间安全领域的一大威胁。深度伪造依靠海量用户数据,特别是社交媒体数据,用于算法训练和优化。同时,深度伪造能够学习并模仿伪造对象的特征,制作逼真的虚假图像、音频和视频... 随着人工智能技术的快速发展,深度伪造(Deepfake)技术成为网络空间安全领域的一大威胁。深度伪造依靠海量用户数据,特别是社交媒体数据,用于算法训练和优化。同时,深度伪造能够学习并模仿伪造对象的特征,制作逼真的虚假图像、音频和视频,对国家、社会、企业和个人造成严重危害。本文探讨了深度伪造技术在网络空间安全领域的威胁以及应对策略,以期增强我国网络空间安全体系的韧性,共同为构建更安全、可靠的数字社会贡献力量。 展开更多

关键词 深度伪造技术 网络空间安全 人工智能 安全风险 虚假信息

下载PDF 职称材料

“三端共治”模式下滥用深度伪造技术的刑法规制

9

作者 肖姗姗 曹娜 《湖北警官学院学报》 2024年第3期73-85,共13页

作为一种音视频欺骗技术,深度伪造技术的高度仿真性、操作便捷性、高速进化性以及人身关联性使其与个人信息保护密不可分,且存在极大的异化风险,如导致科技向善理念失守、侵犯公民人身财产权益、引发公众信任危机、妨害司法公正、危害... 作为一种音视频欺骗技术,深度伪造技术的高度仿真性、操作便捷性、高速进化性以及人身关联性使其与个人信息保护密不可分,且存在极大的异化风险,如导致科技向善理念失守、侵犯公民人身财产权益、引发公众信任危机、妨害司法公正、危害公共安全。由于当前我国刑法对该行为的规制仍存在个人信息保护缺弱、打击非法使用行为疲软等不足,故应当根据深度伪造技术运用的流程构建“三端共治”模式,即前端对个人生物识别信息进行提级保护、中端治理非法使用行为、末端准确认定下游犯罪,从而有效治理滥用深度伪造技术的犯罪行为,引导科技向善。未来还应当基于“三端共治”模式细化相关规定、增强公民的信息素养,并提高深度伪造检测技术,实现技术与法律的综合治理。 展开更多

关键词 深度伪造技术 个人生物识别信息 侵犯公民个人信息罪 “三端共治”模式

下载PDF 职称材料

深度伪造技术的风险问题及应对策略

10

作者 张逢 尚峥峥 《信息技术与管理应用》 2024年第3期59-66,共8页

深度伪造技术是利用深度学习等算法在视觉听觉的内容等方面创建和生成虚假信息。近两年此技术的门槛降低,应用场景增多,在公民的合法权益、人类“眼见为实”的认知理念、人的主体性等方面产生的风险问题日益凸显,需要人们从法律上保护... 深度伪造技术是利用深度学习等算法在视觉听觉的内容等方面创建和生成虚假信息。近两年此技术的门槛降低,应用场景增多,在公民的合法权益、人类“眼见为实”的认知理念、人的主体性等方面产生的风险问题日益凸显,需要人们从法律上保护公民权益、技术上厘清伪造与真实、用理性重构人的主体性等方面积极应对。 展开更多

关键词 深度伪造技术 风险 应对策略

原文传递

基于SFIC模型的深度伪造技术协同治理研究

11

作者 李雨璇 《信息安全与通信保密》 2024年第11期107-116,共10页

作为人工智能快速发展的产物,深度伪造技术自2017年兴起以来,已在全球范围内迅速扩散,对法律、伦理和安全等构成了严峻挑战。为深入探析我国深度伪造技术的有效治理路径,选取SFIC模型作为分析框架:首先,通过梳理深度伪造技术的发展脉络... 作为人工智能快速发展的产物,深度伪造技术自2017年兴起以来,已在全球范围内迅速扩散,对法律、伦理和安全等构成了严峻挑战。为深入探析我国深度伪造技术的有效治理路径,选取SFIC模型作为分析框架:首先,通过梳理深度伪造技术的发展脉络及其对国家安全带来的威胁与挑战,揭示协同治理的紧迫性和必要性;其次,运用SFIC模型,从起始条件(S)、催化领导(F)、制度设计(I)、协同过程(C)4个维度分析我国深度伪造技术协同治理的现状以及存在的挑战;最后,基于SFIC模型分析结果,提出相应优化策略和建议,以期为我国深度伪造技术协同治理提供参考。 展开更多

关键词 深度伪造技术 SFIC模型 协同治理 国家安全

下载PDF 职称材料

滥用人工智能深度伪造技术的刑法评价进路 被引量：3

12

作者 赵小涵 《宿州教育学院学报》 2021年第4期15-18,共4页

随着人工智能技术的不断革新,深度伪造的低门槛化与使用目的复杂化使之“异化”成为新型犯罪工具。依照现行刑法体系已有制裁思路,滥用深度伪造技术的行为可能会触犯侮辱罪、诈骗罪、传播淫秽物品罪、侵犯公民个人信息罪等。深度伪造技... 随着人工智能技术的不断革新,深度伪造的低门槛化与使用目的复杂化使之“异化”成为新型犯罪工具。依照现行刑法体系已有制裁思路,滥用深度伪造技术的行为可能会触犯侮辱罪、诈骗罪、传播淫秽物品罪、侵犯公民个人信息罪等。深度伪造技术实质是盗用个人生物识别信息行为,对此行为的刑法规制仍存在着立法的空白地带。基于盗用个人生物识别信息行为现实危害性与刑罚处罚的必要性,刑法介入的理想方式是完善侵犯公民个人信息罪的犯罪构成,实现盗用个人生物识别信息行为的入罪化。 展开更多

关键词 深度伪造技术 刑法评价 盗用个人生物识别信息

下载PDF 职称材料

人工智能深度伪造技术的法律风险防控 被引量：2

13

作者 龙俊 王天禹 《行政管理改革》 CSSCI 北大核心 2024年第3期69-79,共11页

作为生成式人工智能的深度伪造技术给社会带来了新的风险与挑战。从类型学上看,深度伪造技术同时引发了基于个体权利谱系的微观法律风险、基于市场经济秩序的中观法律风险和基于国家公共安全的宏观法律风险,并依此形成了多样化和梯次性... 作为生成式人工智能的深度伪造技术给社会带来了新的风险与挑战。从类型学上看,深度伪造技术同时引发了基于个体权利谱系的微观法律风险、基于市场经济秩序的中观法律风险和基于国家公共安全的宏观法律风险,并依此形成了多样化和梯次性的法律风险格局。为有效化解风险,各国存在“自下而上型”分散治理模式、“自上而下型”垂直治理模式以及“多方参与型”合作治理模式。我国可通过“软法+硬法+算法”相结合的综合治理模式,实现对前述法律风险的有效防控:在软法层面,完善科技伦理制度,明确科技伦理的实体规范和程序规范;在硬法层面,通过“风险预防”与“风险控制”,强化风险防控的刚性约束;在算法层面,实现从样本数据采集到深度伪造内容发布的全过程技术监督,发挥技术的规范功能。 展开更多

关键词 深度伪造 破坏性创新 法律风险 科技伦理 算法

下载PDF 职称材料

深度伪造会带来全新的“认识威胁”吗?

14

作者 黎春娴 《自然辩证法研究》 CSSCI 北大核心 2024年第8期66-73,共8页

深度伪造当前造成了广泛的认识威胁舆论。舆论认为这项技术将对人类的认识环境、能力和信任造成损害,会消除视频作为感性知识的可靠性,降低视频记录中的信息价值,导致骗子红利形成。然而,从技术史的角度进行观察,则会发现:影像提供的并... 深度伪造当前造成了广泛的认识威胁舆论。舆论认为这项技术将对人类的认识环境、能力和信任造成损害,会消除视频作为感性知识的可靠性,降低视频记录中的信息价值,导致骗子红利形成。然而,从技术史的角度进行观察,则会发现:影像提供的并不是非人际知识,诸多例证也说明人为操纵在技术发展中如影随形。此外,所谓的“认识末日(epistemic apoclayse)”的含混叙事,对技术乱象和问题的解决并无太大帮助。因此,需要对“认识威胁”重新进行语义和语境的思考,厘清该技术面临的问题。进而在策略上将技术社会系统作为真正应该展开治理的对象,把注意力从认识威胁转移到其应遵循的社会规范层面,以避免倒向技术至上主义的解决策略,使其不会落于捍卫传统理性及其既有权力结构的窠臼。 展开更多

关键词 深度伪造 认识威胁 科技伦理 生成式人工智能

原文传递

“深度伪造”背景下人格权保护的困境与应对 被引量：1

15

作者 冯婉淇 《人权法学》 2022年第1期97-114,157,158,共20页

“深度伪造”技术只是侵犯人格权益的手段,通过“深度伪造”技术制作的视频在视听呈现上使用了他人的肖像和声音,在作为不实信息传播的过程中,可能会对他人的名誉造成损害。面对被侵权人识别障碍、侵权责任认定困难、被侵权人的举证负... “深度伪造”技术只是侵犯人格权益的手段,通过“深度伪造”技术制作的视频在视听呈现上使用了他人的肖像和声音,在作为不实信息传播的过程中,可能会对他人的名誉造成损害。面对被侵权人识别障碍、侵权责任认定困难、被侵权人的举证负担沉重等问题,一方面,可以通过修正肖像权“可被识别”标准,细化表演者权内涵,从而扩大权利人识别的范围,更周全地保护潜在被侵权人。另一方面,须在事前对使用“深度伪造”技术的行为人课以更高的义务。 展开更多

关键词 深度伪造 换脸技术 人格权 肖像权 名誉权

下载PDF 职称材料

深度伪造生成和检测技术综述 被引量：5

16

作者 张煜之 王锐芳 +2 位作者 朱亮 赵坤园 刘梦琪 《信息安全研究》 2022年第3期258-269,共12页

近年来兴起的深度伪造技术能够高度逼真地模拟和伪造音视频内容,并得到了广泛的良性和恶意应用.针对深度伪造的生成和检测,国内外专家学者进行了深入研究,并提出了相应的生成和检测方案.对现有的基于深度学习的音视频深度伪造生成技术... 近年来兴起的深度伪造技术能够高度逼真地模拟和伪造音视频内容,并得到了广泛的良性和恶意应用.针对深度伪造的生成和检测,国内外专家学者进行了深入研究,并提出了相应的生成和检测方案.对现有的基于深度学习的音视频深度伪造生成技术、检测技术、数据集以及未来研究方向进行了全面的概述和详细分析,这些工作将有助于相关人员对深度伪造的理解和对恶意深度伪造防御检测的研究. 展开更多

关键词 深度学习 深度伪造 生成技术 检测技术 人脸替换 语音转换

下载PDF 职称材料