随着新一代人工智能技术的发展和应用,在线社交网络(Online Social Networks,OSNs)虚假信息的自动化检测、传播和控制,受到了政府、学术界和工业界人员的广泛关注.虚假信息检测主要从信息内容和社交上下文辅助信息等方面展开研究,虚假...随着新一代人工智能技术的发展和应用,在线社交网络(Online Social Networks,OSNs)虚假信息的自动化检测、传播和控制,受到了政府、学术界和工业界人员的广泛关注.虚假信息检测主要从信息内容和社交上下文辅助信息等方面展开研究,虚假信息传播研究可以追溯到早期复杂网络和小世界网络中的谣言传播动力学模型研究,直到近三年来关于社交自然人和社交机器人的混合型、交互式传播模式研究,虚假信息传播控制主要从传播的节点控制和访问控制/使用控制等方面展开研究.本文分别从社交客体(虚假信息)和社交主体(社交自然人和社交机器人)两个方面进行深入系统探讨.首先,回顾了国内外虚假信息检测研究现状,重点论述了虚假信息检测特征和方法.其次,围绕社交自然人和社交机器人的检测方法和传播模式进行分析和比较,阐述两类社交主体传播虚假信息的一般规律.然后,对虚假信息传播控制方法进行全面系统的梳理和分析,给出了虚假信息传播的节点控制和使用控制模型,总结了相关数据采集、标注方法和常用的公开数据集等.最后,提出了社会情境安全和分析框架,以及针对虚假信息在跨平台传播和控制方面,未来研究所面临的问题、挑战及可能的研究方向.展开更多
文摘随着新一代人工智能技术的发展和应用,在线社交网络(Online Social Networks,OSNs)虚假信息的自动化检测、传播和控制,受到了政府、学术界和工业界人员的广泛关注.虚假信息检测主要从信息内容和社交上下文辅助信息等方面展开研究,虚假信息传播研究可以追溯到早期复杂网络和小世界网络中的谣言传播动力学模型研究,直到近三年来关于社交自然人和社交机器人的混合型、交互式传播模式研究,虚假信息传播控制主要从传播的节点控制和访问控制/使用控制等方面展开研究.本文分别从社交客体(虚假信息)和社交主体(社交自然人和社交机器人)两个方面进行深入系统探讨.首先,回顾了国内外虚假信息检测研究现状,重点论述了虚假信息检测特征和方法.其次,围绕社交自然人和社交机器人的检测方法和传播模式进行分析和比较,阐述两类社交主体传播虚假信息的一般规律.然后,对虚假信息传播控制方法进行全面系统的梳理和分析,给出了虚假信息传播的节点控制和使用控制模型,总结了相关数据采集、标注方法和常用的公开数据集等.最后,提出了社会情境安全和分析框架,以及针对虚假信息在跨平台传播和控制方面,未来研究所面临的问题、挑战及可能的研究方向.
