摘要
正如一枚硬币的两面,生成式人工智能大模型(以下简称“生成式大模型”)在助力内容生成的同时也潜藏风险,成为虚假信息传播、数据隐私泄露等问题的温床,加剧了认知域风险。与传统人工智能(AI)相比,生成式大模型特有的预训练、微调、上下文、提示和思维链等新型学习范式,使其输出内容蕴含的风险更加复杂与多样化。面对新问题、新挑战,传统的内容安全治理方法与工具显现出明显的局限性,亟需探索新的治理策略和技术方法,以确保在大模型时代能够有效管理内容安全风险。
出处
《中国信息安全》
2024年第6期38-41,共4页
China Information Security
