“AI换脸”你听过或看过吗?在短视频平台上,你能看到一些由“AI换脸”生成的视频短片。最近很多影视作品里的人物被换成普通人的脸,其逼真的画面让人难以分辨真假,如同真人参与了影视拍摄一样。由于AI技术(人工智能技术)的发展,出现了多种“AI换脸”软件,用户可以通过上传照片,秒变成视频里的主人公,这种新技术得到了不少年轻人的喜爱。
网友使用“AI换脸”
对于“AI换脸”软件,很多网友觉得好玩会去下载使用,网友@快乐丫头表示,她之前看到一些“AI换脸”的视频,觉得好奇、好玩,就下载并上传自己的照片,也生成视频,她把视频分享到社交平台上。后来她发现自己的照片被其他人“AI换脸”成一段搞笑视频,她便警惕起来,删除了所有在社交平台上发布的照片和个人信息。与该网友一样,现在越来越多人意识到“AI换脸”的危险可怕而不只是好玩,网友@活力青豆:“有人说AI换脸很科幻,离我们很远,其实在我们身边已经有很多受害者了。”网友@耳东丰色:“真真假假,AI技术让人变得很迷乱。”网友@希南517:“以后出事了,就说AI换脸。无法区分真假了,希望国家出台相关法律法规,规范行业,对此技术进行监管。”
“AI诈骗”骗局
这种简单又易于操作的“AI换脸”软件,一时让大家觉得娱乐性满满,然而也被诈骗分子盯上了。“10分钟被AI骗走430万”“又是‘AI换脸’!济南小伙7秒钟被骗30万!”“利用AI换脸合成假裸照视频索要10万元”“骗子AI换脸冒充亲戚 女子转账10万元后才发现异常”……已有多起“AI诈骗”冲上热搜,引起了社会各界的广泛关注。诈骗分子利用AI技术伪造各种信息,通过“AI换脸”仿冒身份、声音合成、生成视频等多种方式实施诈骗,给大家带来了巨大的财产和安全威胁。前段时间,建行石狮滨海支行成功堵截一起“AI换脸”电信诈骗。一市民朋友通过微信视频让他给对方转一笔钱,后被银行客户经理识破是“AI诈骗”骗局,及时制止转账,保住了该市民的钱财。
规范AI技术使用
针对近两年来,AI技术(人工智能技术)的快速发展,在一些领域得到了很好的运用,但目前也出现被滥用的情况,亟待规范这项技术的使用。前不久,国家网信办等七部门联合发布了《生成式人工智能服务管理暂行办法》(以下称《办法》),将于2023年8月15日起施行。前面讲的“AI换脸”、声音合成等都属于生成式人工智能技术,生成式人工智能技术是一把“双刃剑”,在为经济社会发展带来新机遇的同时,也带来不可预知的风险。《办法》的出台在于推动生成式人工智能健康发展、规范应用与风险防范,维护国家安全和社会公共利益,保护人民群众的合法权益。
先进技术的产生与发展,只有规范好行业应用,才能引导赋能于数字化产业,让其更好地造福人类。
(郭国彬)