不久前，包头警方发布了一起用AI换脸实施诈骗的典型案例。4月20日，郭先生的好友通过微信视频联系他，称自己的朋友在外地竞标，需430万元保证金。因郭先生已通过视频聊天确认了身份，便把430万元分两笔转到了那个竞标朋友的银行卡。此后，郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。在福建、包头两地警方、银行的帮助下，其中300多万元被拦截，仍有90多万元在追查中。没几天，安徽安庆又发生了一起AI换脸诈骗事件，涉案金额是132万元，整个诈骗过程只有9秒钟。

与此同时，用AI换脸变声的各类新闻也多了起来。有带货主播AI换脸成女明星的，有网站音乐区掀起AI翻唱热潮的，都让人真假难辨。AI换脸的核心技术是Deepfake，即深度伪造技术，它利用生成式对抗网络（GAN）的机器学习模型，将图片或视频合并叠加到源图片或视频上，并借助神经网络技术进行大样本学习，可将个人的面部表情、身体动作和语音等拼接合成为虚假内容。

AI换脸技术几年前就风靡全球，一出现就遭遇了法律和伦理的争议，大部分研发机构对该产品推广都持谨慎态度。早在2018年，曾有换脸美国前总统的视频在网上传播，并发表惊人言论，在国际社会引发过舆论风暴。随着AI技术的演进，AI生成式技术的破绽越来越少，生成逼真的音视频越来越简单，门槛也低，滋生了不少灰色产业。据报道，一款用来直播聊天的现成模型，只需2000元就可随心定制明星面容，人们极难用肉眼分辨真伪。

技术是中立的，无所谓好坏，但面对一个具有突破性的技术，如果社会无法用法律和价值来约束它，它就可能给人类带来无法预料的危害。如AI换脸技术若普及，必然会带来一定社会风险——过去基于生物特征等建构的关于真实和安全的社会认知，必然要经受挑战和考验。可预见的是，随着AI技术的量产与通用，使用者会越来越多，由此导致的侵权、犯罪事件也会越来越多。

如何在该项技术还未大面积普及前，在技术、法律方面筑好保护的屏障，实现对AI技术社会化监管，已成为一个日益急迫的课题。好在相关部门已在今年1月10日实施《互联网信息服务深度合成管理规定》，对技术的应用提出了规范。其中，明确要求深度合成服务提供者不得利用该服务从事违法活动，需落实信息安全主体责任，建立健全管理制度和技术保障措施——深度合成服务的提供者和技术支持者在提供人脸、人声等生物识别信息编辑功能时，应提示使用者需依法告知被编辑的个人，并取得其单独同意。

4月11日，国家互联网信息办公室又发布《生成式人工智能服务管理办法》征求意见稿，这将成为中国专门针对生成式人工智能发布的第一份政府文件。该稿提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等），需承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

可见，对于生成式人工智能的监管，已在相关部门的规划之中，至于如何监管及确定行业规则，还有待进一步观察。

不过，进一步加强对AI换脸技术的监管是大趋势，只有用法律规范了AI换脸技术的开发、使用和管理，明确AI换脸技术的安全标准和合法使用范围，增强监管与执法的刚性，才能有效打击用AI换脸技术进行诈骗、侵犯隐私、网络暴力等违法行为。政府还需强化对AI换脸的防范技术开发与应用，只有能智能化地识别影像的真伪，提高该技术的安全性，才能有效打压此类诈骗的生成空间。

此外，在技术上建立对AI换脸技术的规范也很重要。各社交平台首先要严密保护用户的相关基础数据，《个人信息保护法》已明确将个人的生物识别等，列为敏感个人信息，要求网站严格保护，以防止未经授权的访问及个人信息泄露。政府部门有必要像欧盟搞《数字市场法案》一样，对这类“数字守门人”提出需额外承担的一系列义务，如成立主要由外部成员组成的独立机构进行监督；需遵循公开、公平、公正的原则制定平台规则；需定期发布个人信息保护的社会责任报告，接受社会监督等。这些义务有助于强化对大型网络平台的监管，有助于更好地保护个人信息的安全。

其次，凡是使用了AI换脸技术的视频、直播和聊天，各平台都应当出现相应的警示信息，告知使用者对方使用了AI换脸技术。各平台也需提醒创作者和主播等，在使用生成式AI技术时需遵循平台规范，对AI生成内容要进行显著标识，禁止创作和发布对他人可能导致侵权的内容等。

总之，AI技术正在让虚拟世界和真实世界的边界日益模糊，当更多的AI工具进入公共领域时，它极可能从一些人类料想不到的地方，影响到人类生活。因为AI技术能自主学习和自我改进，人类甚至难以理解这些AI工具的能力，以及它们进化的速度。

未来已来。需要全社会的协作努力，我们才能让未来多一些确定性。