中国管理深度合成技术的新规定1月10日起生效。这种越来越接近真实的数字视频操纵手段已在全球引发对虚假信息的担忧。

深度合成技术的使用者可以在视频中将一个人的脸替换为另一个人的脸，或者让一个人说某些话，有时逼真程度令人感到不安。事实证明，这项依赖人工智能的技术在社交媒体上非常受欢迎。以名人换脸为主题的搞笑且常常离谱的视频创作在社交媒体上比比皆是。

中国网络空间管理机构此前警告说，这项技术“也被一些不法人员用于……传播违法和不良信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗”。该机构称，如果不加以管理，深度合成技术会“危害国家安全和社会稳定”。

北京的互联网监管机构——国家互联网信息办公室从1月10日起针对所谓的“深度合成”技术执行这一规定，包括人工智能支持的图像、音频和文本生成应用程序，标志着全球首个主要监管机构为了限制最具爆炸性和争议性的人工智能新技术而进行的全面尝试。

新规定禁止使用人工智能生成内容传播“虚假新闻信息”。规定还要求深度合成技术的提供者——包括公司、研究机构和个人在显著位置标识合成生成或编辑的、可能被公众误认为真实的图像、视频和文本。

技术政策分析人士说，针对深度合成工具和算法的新规能否达到预期效果将考验北京管理一系列快速发展的新技术的能力。这些新技术正在困扰世界各国的监管机构。

斯坦福大学研究学者、跟踪中国数字政策发展动向的组织“数字中国项目”的负责人格雷厄姆·韦伯斯特说：“中国正在和世界一起了解这些事情可能造成的影响，但它推进的速度更快，出台了强制性规定和执法办法。”

韦伯斯特说，北京的规定将为中国以外的观察人士提供一个研究案例，研究这种规则在现实世界中如何运作以及它们可能对企业产生何种影响。“这是世界上首次大规模尝试应对社会所面临的巨大挑战。”

中国在规范可能威胁稳定的技术方面一直行动迅速。当局近年还对该国蓬勃发展的游戏行业采取了行动，在一段时间内冻结了新版号的审批并限制未成年人玩游戏的时间。