健康码的法律之维 被引量：45

1

作者 许可 《探索与争鸣》 CSSCI 北大核心 2020年第9期130-136,160,共8页

作为中国应对新冠疫情下社会流动的重要尝试,健康码不仅是一项数字技术,还是一套法律制度。从组织法面向上,健康码是"政府作为平台"的典型例证,行政机关应提升包容性并建立与"整体政府"相一致的组织架构。在行为法... 作为中国应对新冠疫情下社会流动的重要尝试,健康码不仅是一项数字技术,还是一套法律制度。从组织法面向上,健康码是"政府作为平台"的典型例证,行政机关应提升包容性并建立与"整体政府"相一致的组织架构。在行为法面向上,健康码是自动化行政的重要应用,鉴于其对公民自由的实质影响,健康码应满足算法解释和算法审计的双重要求。在数据法面向上,健康码是数据治理的关键一环,为兼顾公共利益和个体权利,亟待设立统一、独立、专业的个人信息保护机构,实现数据生命周期中不同阶段的动态平衡。作为紧急状态的紧急措施,健康码不可常态化,在全球疫情大幅缓解后,健康码须脱离强制性,成为公民自愿选择的公共服务,相关个人信息亦应及时删除或匿名化。 展开更多

关键词 健康码 政府平台 算法审计 个人信息保护机构

原文传递

算法透明的迷失与回归:功能定位与实现路径 被引量：37

2

作者 魏远山 《北方法学》 CSSCI 北大核心 2021年第1期151-160,共10页

算法的黑箱属性在赋予算法使用者算法权力的同时也威胁着算法相对人的合法权益。以公开算法代码等信息为手段的算法透明措施,成为规范算法权力和保护算法相对人合法权益的重要治理策略之一。但碍于算法的商业秘密属性、算法技术的复杂... 算法的黑箱属性在赋予算法使用者算法权力的同时也威胁着算法相对人的合法权益。以公开算法代码等信息为手段的算法透明措施,成为规范算法权力和保护算法相对人合法权益的重要治理策略之一。但碍于算法的商业秘密属性、算法技术的复杂程度和信息披露对象技术能力等因素的限制,算法透明所能实现的效能有限。为更好发挥算法透明的作用,可从算法代码等信息的公开、算法审查的启动程序、相关审查人员的技术要求、算法审查结果的反馈,以及加强监督等方面建立可信任的算法审查机构,消解算法透明的弊端,提升算法治理效能。 展开更多

关键词 算法透明 代码公开 商业秘密 算法审查 算法治理

原文传递

可问责的算法 被引量：23

3

作者 约叔华·A.克鲁尔 乔安娜·休伊 +6 位作者 索伦·巴洛卡斯 爱德华·W.菲尔顿 乔尔·R.瑞登伯格 大卫·G.罗宾逊 哈兰·余 沈伟伟(译) 薛迪(译) 《地方立法研究》 2019年第4期102-150,共49页

许多传统上由人做出的重要决策,现在都是由计算机做出的。算法统计选票、批准贷款和信用卡申请、指定公民或社区进行警务审查、选择纳税人进行税务审计、批准或拒绝移民签证等。然而,监管此类决策流程的问责机制和法律标准,尚未跟上技... 许多传统上由人做出的重要决策,现在都是由计算机做出的。算法统计选票、批准贷款和信用卡申请、指定公民或社区进行警务审查、选择纳税人进行税务审计、批准或拒绝移民签证等。然而,监管此类决策流程的问责机制和法律标准,尚未跟上技术的步伐。目前,可供决策者、立法者和法院使用的工具,是为监督人类决策而设计的,当把它们应用于监督计算机决策时,通常会失灵。例如,如何判断一个软件的意图?由于自动化决策系统可能会输出不正确、不合理或不公平的结果,因此,我们需要采取其他手段,以使此类算法具有可问责性和可操控性。本文提出了一套新的技术措施,它能够以法律公平为准绳,来验证自动化决策。法学界的主流文献认为,算法透明可以解决这些问题。本文对这一主流观点提出挑战。通常而言,源代码的公开,既不必要(由于计算机科学中的替代技术),也不足以证明决策流程的公平性(由于分析代码时所存在的问题)。此外,算法透明也可能是不可取的,例如,它可能会披露个人信息,也可能会帮助不法分子或恐怖分子与税务审计或安全检查的系统进行周旋。真正的核心问题是:如何使自动化决策更具可问责性,以确保公民个体和整个社会的利益?本文认为,技术正在创造新的机会——以比算法完全透明更巧妙、更灵活的方式,来设计自动化决策的算法,使其更好地顺应法律和政策的目标。这样做不仅可以改善当前对自动化决策的治理,而且在某些情况下,还可以改善普通决策的治理。人类决策者的内在(或外在)偏见,很难被发现和根除,但我们却可以窥视算法的“大脑”:计算过程和目的规范可以在事前声明,并在事后验证。本文介绍的技术可以得到广泛应用。它们可以用来设计私营机构和公共部门的决策流程,并可根据决策者、监管者或公众的 展开更多

关键词 自动化决策 可问责性 算法透明 算法审计 程序规制性

下载PDF 职称材料

论我国算法审计的法治化建构 被引量：6

4

作者 刘建业 《河南财经政法大学学报》 2023年第3期14-23,共10页

算法审计具有技术审计、合规审计、风险审计、责任审计等复合属性。算法规制理念旨在规范“算法权力”,防止因算法滥用产生不良社会影响,实现算法正义。基于算法规制的视角,对算法审计进行法治化建构迫在眉睫且意义重大。算法审计的法... 算法审计具有技术审计、合规审计、风险审计、责任审计等复合属性。算法规制理念旨在规范“算法权力”,防止因算法滥用产生不良社会影响,实现算法正义。基于算法规制的视角,对算法审计进行法治化建构迫在眉睫且意义重大。算法审计的法治化建构,需要超越算法的技术性定义,关注算法输入数据的质量与评估算法产生的社会影响,遵循包括但不限于以下基本思路:鉴于既有审计类型无法包含算法审计,须规定算法审计独立审计类型;由于算法审计专业性强且市场发育不足,目前阶段应当建立公共机构主导的算法审计模式;为了有效裁决算法纠纷,有必要确立算法审计诉讼类型;面对算法治理存在侵蚀人的自主性倾向,亟待凝聚算法伦理社会共识。 展开更多

关键词 算法社会 算法治理 算法审计 算法伦理 法治化构建

下载PDF 职称材料

模型算法审计:理论内涵、国际经验与审计框架 被引量：6

5

作者 王玉凤 《审计研究》 北大核心 2023年第3期11-18,共8页

模型算法是大数据、人工智能等数字化技术和数字经济发展的核心要素,对数字化转型起着关键性作用。模型算法的应用越来越广泛,在提升管理水平和自动化程度的同时,也对模型算法风险监管提出了严峻挑战。美国、英国、欧盟、加拿大等已陆... 模型算法是大数据、人工智能等数字化技术和数字经济发展的核心要素,对数字化转型起着关键性作用。模型算法的应用越来越广泛,在提升管理水平和自动化程度的同时,也对模型算法风险监管提出了严峻挑战。美国、英国、欧盟、加拿大等已陆续出台模型算法监管规定和审计指引,英国、荷兰等最高审计机关已开展模型算法的审计实践。本文基于以上分析,提出模型算法审计的概念内涵,尝试构建了适合我国的模型算法“五维”审计框架,回答了未来我国模型算法审计“谁来审”“审什么”“怎么审”“审计的条件”以及“审计的原则”等五个方面的问题,以期为今后开展模型算法审计实践提供理论参考。 展开更多

关键词 模型算法 算法审计 审计框架

下载PDF 职称材料

国内主流搜索引擎的算法审计研究 被引量：9

6

作者 师文 陈昌凤 《新闻大学》 CSSCI 北大核心 2022年第10期84-100,122,123,共19页

在数字信息生态中,商业化搜索引擎和商业性信息网站分别扮演着日益重要的角色。本研究采用算法审计方法,以“新冠病毒”这一公共议题为例,对国内主流搜索引擎的检索结果进行审计,基于大数据和图计算识别二者间的商业关联,并计算上述关... 在数字信息生态中,商业化搜索引擎和商业性信息网站分别扮演着日益重要的角色。本研究采用算法审计方法,以“新冠病毒”这一公共议题为例,对国内主流搜索引擎的检索结果进行审计,基于大数据和图计算识别二者间的商业关联,并计算上述关联关系是否导致搜索引擎信息过滤、排序的偏向或降低搜索结果的多样性。研究证实,商业关联会导致搜索引擎算法偏向,即搜索引擎首先倾向于呈现来自相同利益主体网站的信息,其次是利益相关主体网站的信息,并赋予二者更优先的排序;利益关联对内容多样性的影响因搜索引擎而异。研究同时发现,在目前的互联网信息检索服务中,商业信息网站处于“内容提供商”和“广告商”之间的模糊地带;搜索引擎和商业信息网站之间基于商业关联形成的“渠道—内容”合谋构成了对数字生态公共性的挑战。 展开更多

关键词 搜索引擎 算法审计 算法伦理

原文传递

大数据时代算法审计构想 被引量：3

7

作者 付冉冉 《网络安全与数据治理》 2023年第2期48-52,共5页

在现代语境里,算法是解决问题的自动化程序,在公共管理、司法裁判、金融系统、以及商业领域等都得到广泛应用。算法应用一方面提高了社会整体的运行效率,另一方面也因其复杂的技术性特征导致了社会管理的失序。当前,我国算法规制体系立... 在现代语境里,算法是解决问题的自动化程序,在公共管理、司法裁判、金融系统、以及商业领域等都得到广泛应用。算法应用一方面提高了社会整体的运行效率,另一方面也因其复杂的技术性特征导致了社会管理的失序。当前,我国算法规制体系立法较为松散、监管主体不够明析,而审计作为一种独立而成熟的审查制度,在算法设计监督、算法数据保护以及算法决策法律问责中都大有可为,可解决算法监管体系松散、监管责任不明等问题。在审计监管模式下,可由专业人员制定审计计划,根据特定的审计标准进行风险评估和事实审查,给出审计结论,制作审计报告、进行审计公开,对相关人员实施问责以及开展后续审计质量追踪。由第三方审计、平台自我规制与行业自律相结合,算法监管可迎来新的突破。 展开更多

关键词 算法 算法风险 算法治理 算法审计

下载PDF 职称材料

生成式人工智能视阈下算法审计的制度构建与路径创新 被引量：4

8

作者 王兆毓 《网络安全与数据治理》 2023年第8期6-12,共7页

随着文心一言、通义千问、ChatGLM等我国生成式人工智能算法研发与应用的落地,加快构建并完善面向生成式人工智能的算法治理已成为完善算法监管体系的题中之义。在算法治理体系之中,算法审计制度有利于算法异化与算法风险的纠偏问责,促... 随着文心一言、通义千问、ChatGLM等我国生成式人工智能算法研发与应用的落地,加快构建并完善面向生成式人工智能的算法治理已成为完善算法监管体系的题中之义。在算法治理体系之中,算法审计制度有利于算法异化与算法风险的纠偏问责,促进算法公平与数字正义的实质透明,并实现算法公开与商业秘密的张力弥合,从而成为算法规制的关键制度配置。在全流程治理视角下,唯有“用算法审计算法”,实现书面合规审计与技术合规审计的协同并举,才能在算法内外部对算法的透明度、公平性、可控性、包容性和可问责进行多维视角的有效评估。而在算法审计实践之中,现行法仍需完善刚柔并济的差序规制格局,巩固分类分级的精准治理,以实现算法审计内外兼修的制度衔接,促进算法治理从碎片化监管迈向更为一体化、敏捷化、精准化的治理格局。 展开更多

关键词 算法审计 算法治理 透明度 个人信息保护

下载PDF 职称材料

人工智能伦理风险及其治理——基于算法审计制度的路径 被引量：4

9

作者 陈雄燊 《自然辩证法研究》 北大核心 2023年第10期138-141,共4页

基于算法内核,人工智能产生了诸如算法歧视、算法黑箱等一系列伦理问题。这是主观上人们理性失衡与过度追逐利益的恶果,是客观上算法技术缺陷与算法工程师水平局限的结果,也是法律规制落后与伦理教育缺位的后果。但现阶段算法技术的发... 基于算法内核,人工智能产生了诸如算法歧视、算法黑箱等一系列伦理问题。这是主观上人们理性失衡与过度追逐利益的恶果,是客观上算法技术缺陷与算法工程师水平局限的结果,也是法律规制落后与伦理教育缺位的后果。但现阶段算法技术的发展处于较为尴尬的境地:一方面,它已产生极大伦理隐患,具有治理的现实紧迫性;另一方面,它又处于技术上升期,过度约束可能阻碍产业发展。对此,算法审计制度以其适度约束力和有限透明的特点,可解决当前人工智能算法伦理治理的两难困境。 展开更多

关键词 算法审计 人工智能伦理风险 伦理治理

原文传递

智能算法如何重构新闻价值?——基于智能推荐平台算法审计的研究

10

作者 黄阳坤 师文 陈昌凤 《新闻大学》 北大核心 2024年第6期18-33,118,119,共18页

有关推荐算法重构新闻价值的讨论已在学术界兴起,但这种影响是否真实存在?如存在,有哪些影响?相关问题迄今鲜有实证研究。本研究采用计算实验范式中的虚拟代理测试法,对国内一款头部算法短视频平台展开算法审计,针对不同情境下新闻类视... 有关推荐算法重构新闻价值的讨论已在学术界兴起,但这种影响是否真实存在?如存在,有哪些影响?相关问题迄今鲜有实证研究。本研究采用计算实验范式中的虚拟代理测试法,对国内一款头部算法短视频平台展开算法审计,针对不同情境下新闻类视频的新闻价值展开测量与比较。研究发现,在不同的实验场景中,时新性、新颖性、接近性、显著性、重要性,以及情绪极性与强度等要素均产生显著的变化,这些价值要素在算法中介、用户偏好的作用下时强时弱,表现出弹性。结果表明,各类新闻价值要素在承受了技术、专业机构、用户等多方“推拉”后发生显著“位移”,这种“位移”展现出一定本土特色,部分价值要素的变动或将挑战甚至颠覆行业与受众的新闻观念。本研究为算法语境下的新闻价值研究提供了一套切实可行的新方法,也为观察当今哪些主体参与新闻价值之重塑、各新闻价值要素如何排列等问题提供了实证窗口。 展开更多

关键词 新闻价值 推荐算法 算法审计 虚拟代理测试 计算传播

原文传递

嵌入算法价值观:新闻生产算法系统的价值敏感设计研究 被引量：2

11

作者 张超 《南京师大学报（社会科学版）》 北大核心 2023年第2期135-146,共12页

“算法转向”让新闻业面临一个现实问题,即如何将新闻价值观嵌入算法,让算法系统的价值观与媒体的价值观匹配。本文从技术哲学的“经验转向”和批判算法研究出发,探讨算法何以有价值观,并将价值敏感设计与“情境分析-价值观识别-技术转... “算法转向”让新闻业面临一个现实问题,即如何将新闻价值观嵌入算法,让算法系统的价值观与媒体的价值观匹配。本文从技术哲学的“经验转向”和批判算法研究出发,探讨算法何以有价值观,并将价值敏感设计与“情境分析-价值观识别-技术转译-原型设计”的算法设计流程结合,提出将新闻价值观嵌入算法的具体机制,并对价值敏感设计进行省思,指出价值敏感设计嵌入的是有限度的价值观,价值敏感设计成功的关键在于利益相关者的协同参与,并提出透明性、可解释、可审计的价值敏感设计伦理原则。 展开更多

关键词 经验转向 批判算法研究 价值敏感设计 算法审计

下载PDF 职称材料

人工智能的伦理风险防范及其算法审计应用

12

作者 邓若玉 《陕西行政学院学报》 2024年第2期116-118,共3页

人工智能是现代计算机科学领域发展下的重要产物,可从理论、方法、技术等层面实现人的智能延伸。在为社会发展提供便利的同时,人工智能的泛化应用也催生了对应的伦理风险,诸如算法歧视、责任界定困难等,需以特定防范举措加以控制。分析... 人工智能是现代计算机科学领域发展下的重要产物,可从理论、方法、技术等层面实现人的智能延伸。在为社会发展提供便利的同时,人工智能的泛化应用也催生了对应的伦理风险,诸如算法歧视、责任界定困难等,需以特定防范举措加以控制。分析人工智能催生的伦理风险及其成因,以算法审计的应用作为化解风险的路径,在厘清其应用原则的前提下,可拟建科学实践路径,以供参考。 展开更多

关键词 人工智能 伦理风险 算法审计

下载PDF 职称材料

著作权合理使用算法化:必要、可能与限度 被引量：1

13

作者 邵红红 《财经法学》 2023年第4期149-164,共16页

算法通知和算法过滤不当侵蚀了社会公众的合理使用空间,导致著作权人、平台和社会公众之间出现严重的利益失衡。合理使用算法化能够促进三者之间达成新的利益平衡,填补合理使用制度适用的效率缺口,推动算法过滤义务在我国的确立,因而具... 算法通知和算法过滤不当侵蚀了社会公众的合理使用空间,导致著作权人、平台和社会公众之间出现严重的利益失衡。合理使用算法化能够促进三者之间达成新的利益平衡,填补合理使用制度适用的效率缺口,推动算法过滤义务在我国的确立,因而具有引入的必要性。合理使用算法化主要面临技术和法律两个层面的质疑,但这些质疑都不足以成为拒绝合理使用算法化的理由。合理使用算法化的实现需要从技术和法律两个层面进行部署,在技术层面需采取有监督学习的路径,在法律层面涉及与我国现行著作权法律制度的协调。合理使用算法化作为现有合理使用制度适用方式的补充,在适用范围上具有一定的限度,需从功能定位和外部监管两个维度予以限定。 展开更多

关键词 著作权合理使用 法律算法化 机器学习 算法审查

下载PDF 职称材料