-
题名人工智能巨风险研究:形成机制、路径及未来治理
被引量:5
- 1
-
-
作者
王彦雨
雍熙
高芳
-
机构
中国科学院自然科学史研究所
中华人民共和国水利部信息中心
中国科学技术信息研究所
-
出处
《自然辩证法研究》
北大核心
2023年第1期104-110,共7页
-
文摘
在西方社会风险相关理论的基础上,提出“人工智能巨风险(AI巨风险)”概念,认为在关注AI伦理及散发风险等问题的基础上,应对人工智能应用与传播过程中所可能引发的大范围、高强度、规模化社会风险问题给予足够关注,即人工智能在应用与传播过程中所引发的“巨风险”。主要类型如机器自涉式AI巨风险、社会系统侵入式AI巨风险、非对称破坏式AI巨风险等。“AI巨风险”的形成往往是多个密相关因素的共振式耦合作用,如技术能力强度、技术稳健度、技术应用向度、社会粘合度、政治/社会对抗强度、社会心理因素等。为防止AI所可能带来的大范围危害、遏制AI巨风险的形成,应积极构建“机器风险学”,从学理层面更深入分析AI巨风险形成的动力学机制,并在未来的社会治理实践中,坚持预防治理原则、技治管理原则、强约束原则、备份原则、协商原则。
-
关键词
巨风险
人工智能
非对称破坏式风险
治理
-
Keywords
giant risk
artificial intelligence
asymmetric destructive risk
governance
-
分类号
N031
[自然科学总论—科学技术哲学]
-