企业动态

    俗话说“眼见为实”，但随着AI换脸技术升级和应用的普及，当前利用AI换脸技术实施犯罪的现象也愈演愈烈。有人利用AI换脸冒充受害人的亲朋好友实施诈骗，有人利用AI换脸绕过人脸识别系统侵入他人账户。

    不法人员利用AI换脸实施犯罪为何能屡屡得手？其中的套路有哪些？当眼见不再为实，普通人又该如何防范呢？《央视新闻》关注了这个话题。

    “AI换脸”实施犯罪   套路有哪些

    记者体验视频通话如何被“秒”变脸

    为了了解AI换脸技术，记者近日来到了位于北京市西城区的奇安信人工智能科技（北京）有限公司。技术人员向记者演示了AI换脸的过程。

    奇安信人工智能公司算法工程师万鸣：我们可以把老师的照片导入进来。刚刚我们在拍的一张照片，点击实时换脸，现在可以通过摄像头捕捉到的画面，就可以看到我们俩现在都被换成了同样的脸。

    体验换脸效果 记者自己跟“自己”通话

    奇安信人工智能公司算法工程师万鸣告诉记者，现在专业的AI换脸软件，不仅可以实现五官、轮廓甚至皮肤肌理、光影效果的深度伪造，而且可以在微信视频聊天时，实现长时间实时换脸。刚才，万鸣的脸已经换成了记者的样子，所以当记者接到万鸣打来的视频电话时，就出现记者自己和自己通话的魔幻景象。

    记者了解到，利用AI进行深度伪造技术正在飞速提升，仅靠简单的摇头，眨眼或张嘴等动作，已经很难鉴定变脸视频的真伪了。

    AI换脸技术滥用  形成多类别犯罪

    一张静态照片，瞬间就能生成逼真的动态人脸视频，AI换脸本是数字时代的创新，近年来却被不法分子当作违法犯罪的工具。

    记者通过检索发现，在“AI换脸”类犯罪案件中，最常见的就是电信网络诈骗，那些让人真假难辨的杀熟视频就是利用这项技术合成出来的。

    在“AI换脸”类诈骗案中，骗子之所以能够屡屡得逞，关键在于被害人在视频通话中都看到了熟悉的亲戚朋友的样貌，才打消了顾虑，同意向对方转款。这些足以以假乱真的视频全都是通过“AI换脸”技术伪造出来的。那么，当我们接到这类疑似利用AI换脸技术，冒充熟人进行诈骗的视频，究竟该怎么甄别呢？

    奇安信人工智能公司算法工程师万鸣：如果你对和你通话的人有身份有疑问，或者不能百分百确定，除了常规点头摇头，也可以尝试让他去快速动头部，用手对脸进行遮挡，来判断是不是真实的人物。如果用手去稍微遮挡一下，五官就浮在我的手上了。

    犯罪频发背后是规模化、协同化的黑灰产业链

    在采访中，记者注意到，如今网络上正形成一条隐形的AI换脸黑产：

    最上游负责从多种渠道拿到真实人脸数据和信息

    中游通过各种技术培训AI换脸视频和诈骗话术

    下游通过AI换脸实施犯罪

    在这类犯罪中，获取被害人的通讯录、照片库等个人隐私信息，则是“AI换脸”类犯罪的重要前提之一。

    获取个人信息成为“AI换脸”重要环节

    奇安信安全专家告诉记者，事实上，对于诈骗团伙来说，要想获得这些信息并不难。

    在奇安信洞鉴实验室，记者看到技术人员攻破的一些诈骗团伙的数据库中，存有海量的公民个人隐私信息。其中包括姓名、手机号、身份证号、银行卡号甚至还有用户理财账户金额和风险评估类型。

    这些公民个人隐私信息在一些暗网渠道被明码标价，打包出售，根据新鲜程度的不同，标价从几毛钱到几元钱不等，最低起售条数一般以一万条为计算单位。

    这些公民个人隐私信息除了主要由行业内鬼窃取出售之外，另外一个主要渠道就是利用一些非法链接、二维码和手机App诱导套取。

    奇安信洞鉴实验室鉴定专家李洋：例如从短视频平台爬取到人脸照片、昵称信息，从招聘网站买到手机号、姓名、年龄信息，从快递黑市买到姓名、手机号、住址信息，只要有手机号或者姓名重合，就能把所有的信息拼接在一起。姓名、手机号、身份证号、住址、人脸照片再加社交账号就能构成一份完整的身份档案。

    除了买卖公民个人信息犯罪外，协助AI换脸技术作恶的手法也日益多样化，在奇安信洞鉴实验室协助警方办理的一起非法侵入计算机案中，被告人苏某针对安卓手机操作系统研发“虚拟视频相机”软件，通过突破安卓系统的安全防护机制，使用技术手段对手机相机功能进行未授权修改，干扰系统相机的正常运行，以实现绕过“快手”“抖音”等软件人脸识别实名认证的目的。

    整治重点领域违法违规 收集个人信息

    为遏制侵犯公民个人信息犯罪等网络犯罪，公安部等部门连续多年开展“净网”专项行动，捣毁一批个人信息交易平台。同时，中央网信办、工业和信息化部、公安部近日会同相关部门，部署开展新一轮个人信息保护系列专项行动，进一步深入治理App、软件开发工具包等服务产品以及互联网广告、教育、交通、卫生健康、金融等重点领域违法违规收集使用个人信息典型问题。

    AI换脸怎么防？ 需用魔法打败魔法

    在AI换脸犯罪案件不断侦破的同时，惩治犯罪的法律网络也在逐渐织密，相关部门也在持续探索提升AI换脸视频的甄别技术，遏制这类不法行为的发生。

    法律专家表示，人工智能安全治理是全球性治理难题，目前我国已出台《中华人民共和国网络安全法》、《中华人民共和国个人信息保护法》、《人工智能生成合成内容标识办法》，相关法律法规与监管制度体系持续健全。

    反诈软件＋鉴伪技术 用技术反制技术

    专家表示，维护网络安全需要制度建设与技术创新并重，制度为技术的应用提供保障，技术则为制度的落地提供可行路径。利用AI技术实施的犯罪，最终也会随着AI技术的进步而减少。

    平台必须落实审核责任 个人勿乱授权限

    同时，专家提醒，要遏制AI换脸技术的滥用，网络平台必须落实审核责任，公民个人也应加强防范意识。

    奇安信洞鉴实验室鉴定专家李洋：国家出台的人工智能生成合成内容标识办法，要求AI生成的图片或者视频必须加上显性和隐性标识。如果能从技术层面全面落实所有商用换脸AI视频工具内嵌不可篡改的数字水印，就可以追溯制作者，有效遏制AI换脸视频的滥用。

    最关键的，不随便发清晰正面照，不随便授权相机通讯录相册权限，可疑音视频要及时留存并报警。