AI在中国人的日常生活中越来越常见，相关诈骗案件也随之激增。最近几周，中国多地警方在官方社交媒体账户上提醒说，犯罪分子已利用AI软件生成具有欺骗性的文本，冒充目标人物的朋友行骗。

今年4月，一名郭姓男子在中国聊天应用微信上收到一个冒名顶替者打来的视频电话。这个骗子冒充郭先生的好友，在10分钟内说服他将约60万美元的资金转到了内蒙古的一个银行账户。他照做后联系好友确认转账事宜，才意识到自己被骗了。

根据内蒙古警方发布的信息，郭先生对警方描述道，“当时是给我打了视频的，我在视频中也确认了面孔和声音，才放松了戒备。”郭先生随即向福州警方报案，后者联系了内蒙古警方；该骗子在内蒙古开设了银行账户。根据警方发在微信账号上的帖子，警方成功止付拦截了大部分资金，并正在全力追缴其余被转走的资金。

就在同一个月，据安徽《新安晚报》报道，警方逮捕了一伙诈骗犯，他们利用AI换脸和语音合成技术，骗取一名男子向所谓的朋友转了一大笔钱。

全球监管机构在监管深伪技术上一直面临挑战；所谓深伪（deepfake）是指把图片、音频或视频中的人替换成其他人。中国已迅速推出法规，并利用现有工具来追踪AI诈骗者。

今年1月，中国互联网监管机构中国国家互联网信息办公室开始执行新法规，禁止使用AI生成图像、音频和文本传播违法或被认为破坏经济或国家安全的不良信息或内容。

郭先生受骗之事在中国社会引起强烈反响。警方5月公布此案之后，话题“#AI诈骗正在全国爆发#”冲上微博热搜。字节跳动旗下抖音在5月提出关于AI生成内容的平台规范和行业倡议，呼吁同行禁止利用AI软件生成欺骗性内容和谣言。

最近几周，中国政府部门也打击整治了AI聊天机器人生成的虚假信息，有些虚假信息的内容似乎是以之前一些真实事件为模型。

甘肃省有关部门最近拘留了一名男子，他据称利用在网上收集的新闻片段，在ChatGPT上生成了一篇有关火车撞人事故的虚假文章。据警方称，该男子在一个自媒体平台发表了这篇文章，这篇文章的浏览量达15000次。

ChatGPT的流行在中国激起一阵热潮，中国科技企业将这项技术视为增长的新动力。搜索引擎公司百度、电商巨头阿里巴巴集团和AI公司商汤集团均推出了自家的大语言模型；大语言模型是ChatGPT背后的基础技术。其他科技公司也正在探索如何将AI技术融入各自的产品。

世界各国政府都担心，类似ChatGPT的服务可能会传播歧视性或有害的信息。中国国家互联网信息办公室4月出台新规，要求公司在推出此类AI聊天机器人之前要先经过安全审查。