“AI换脸”你听过或看过吗？在短视频平台上，你能看到一些由“AI换脸”生成的视频短片。最近很多影视作品里的人物被换成普通人的脸，其逼真的画面让人难以分辨真假，如同真人参与了影视拍摄一样。由于AI技术（人工智能技术）的发展，出现了多种“AI换脸”软件，用户可以通过上传照片，秒变成视频里的主人公，这种新技术得到了不少年轻人的喜爱。

网友使用“AI换脸”

对于“AI换脸”软件，很多网友觉得好玩会去下载使用，网友@快乐丫头表示，她之前看到一些“AI换脸”的视频，觉得好奇、好玩，就下载并上传自己的照片，也生成视频，她把视频分享到社交平台上。后来她发现自己的照片被其他人“AI换脸”成一段搞笑视频，她便警惕起来，删除了所有在社交平台上发布的照片和个人信息。与该网友一样，现在越来越多人意识到“AI换脸”的危险可怕而不只是好玩，网友@活力青豆：“有人说AI换脸很科幻，离我们很远，其实在我们身边已经有很多受害者了。”网友@耳东丰色：“真真假假，AI技术让人变得很迷乱。”网友@希南517：“以后出事了，就说AI换脸。无法区分真假了，希望国家出台相关法律法规，规范行业，对此技术进行监管。”

“AI诈骗”骗局

这种简单又易于操作的“AI换脸”软件，一时让大家觉得娱乐性满满，然而也被诈骗分子盯上了。“10分钟被AI骗走430万”“又是‘AI换脸’！济南小伙7秒钟被骗30万！”“利用AI换脸合成假裸照视频索要10万元”“骗子AI换脸冒充亲戚 女子转账10万元后才发现异常”……已有多起“AI诈骗”冲上热搜，引起了社会各界的广泛关注。诈骗分子利用AI技术伪造各种信息，通过“AI换脸”仿冒身份、声音合成、生成视频等多种方式实施诈骗，给大家带来了巨大的财产和安全威胁。前段时间，建行石狮滨海支行成功堵截一起“AI换脸”电信诈骗。一市民朋友通过微信视频让他给对方转一笔钱，后被银行客户经理识破是“AI诈骗”骗局，及时制止转账，保住了该市民的钱财。

规范AI技术使用

针对近两年来，AI技术（人工智能技术）的快速发展，在一些领域得到了很好的运用，但目前也出现被滥用的情况，亟待规范这项技术的使用。前不久，国家网信办等七部门联合发布了《生成式人工智能服务管理暂行办法》（以下称《办法》），将于2023年8月15日起施行。前面讲的“AI换脸”、声音合成等都属于生成式人工智能技术，生成式人工智能技术是一把“双刃剑”，在为经济社会发展带来新机遇的同时，也带来不可预知的风险。《办法》的出台在于推动生成式人工智能健康发展、规范应用与风险防范，维护国家安全和社会公共利益，保护人民群众的合法权益。

先进技术的产生与发展，只有规范好行业应用，才能引导赋能于数字化产业，让其更好地造福人类。

（郭国彬）