企业动态

    近些年，伴随着科技的发展，人工智能正以前所未有的速度融入我们的生产生活。在给我们带来更多便利的同时，也让一些不法分子看到可乘之机。

    济南冯先生在短视频APP收到“表哥白某”私信，对方要求转至其他社交软件并视频通话，以“帮忙”为由让冯先生转账30万元，当冯先生转了30万后，对方又催促再转35万。冯先生察觉异常，发现对方短视频账号已注销，联系真表哥后确认被骗，随即报警，警方判定这是一起AI换脸冒充熟人的网络诈骗案。

    该案已成功告破，躲在AI背后的诈骗团伙也被绳之以法。那么究竟什么是AI换脸，AI换脸视频又是怎样制作出来的呢？

    AI换脸技术，通常被称作“深度合成”。简单来说，它就是用人工智能技术将图片或视频中一个人的脸部替换成另一个人。

    奇安信集团副总裁张庭向记者介绍，5年前奇安信就已研发了一款可识别AI换脸真假的软件，目前算法工程师正在研发更新的AI识别模型。

    奇安信人工智能研究院算法工程师通过视频演示向记者介绍：“视频里面红色框就代表的模型识别的伪造人脸，绿色框是模型认为的真实人脸。”可以看到，在这个视频里，在一些帧上，模型能够成功检测出伪造人脸。”

    随着AI换脸技术的迭代升级，人脸识别这道曾被视为“安全屏障”的防线，正面临前所未有的挑战。那么，这些AI换脸软件又是从哪来的呢？

    记者调查发现，如今，网络上正形成一条隐形的AI换脸黑产，最上游负责从多种渠道获取真实人脸数据和信息，中游通过各种技术培训AI换脸视频和诈骗话术，下游犯罪嫌疑人通过多种AI换脸方式实施违法犯罪行为。

    魔高一尺，道高一丈。在AI换脸犯罪案件不断侦破的同时，相关部门也在持续探索，提升AI换脸视频的甄别技术，遏止这类不法行为的发生。

    2022年，国家专门出台了《互联网信息服务深度合成管理规定》，其中明确要求任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象。侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

    面对人工智能安全治理这一世界性难题，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》，并在2025年9月1日起正式实行。

    国家出台的《人工智能生成合成内容标识办法》要求，AI生成的图片或者视频必须加上显性和隐性标识，如果在AI视频传播过程中，使用者将显性标识截取掉，那么还有隐性标识可以被识别出来。

    奇安信集团人工智能研究院算法工程师给记者做了演示。将想要嵌入的字符串CMG通过加密算法添加到指定图片中，加密后的图片通过肉眼看不出明显区别，但使用具体的解密算法，就可以把刚才藏入其中的CMG字符串解析出来。同时，不光是原图，在传播过程中的涂抹、裁剪等情况，也不会影响平台解析出目标字符串。

    2025年6月20日，中央网信办深入开展的“清朗”整治AI技术滥用专项行动第一阶段工作取得积极进展，累计处置违规小程序、应用程序智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。

    一直以来，为解决AI技术在发展及应用落地过程中的潜在危害，我国出台了相关法律法规加以监管。《中华人民共和国民法典》规定，未经许可使用他人形象进行换脸，并用于盈利等恶意目的，属于明确的侵权行为。《生成式人工智能服务管理暂行办法》也规定技术提供者应使用合法来源的数据和基础模型，涉及个人信息时必须依法获取同意。

    截至目前，我国生成式人工智能产品的用户规模已超过3亿。随着AI技术的迅猛发展和生成式人工智能的快速迭代，各种纷杂的人工智能生成信息让人眼花缭乱，有时难辨真假。但相关的网络安全技术团队也已经研发出更新的技术手段，用AI反制AI，用魔法打败魔法。

    在奇安信洞鉴实验室，鉴定专家刘夕铭正在和同事电脑硬盘进行复原，他告诉记者，这是受公安部委托进行取证的一个AI换脸案件。嫌疑人通过AI换脸，盗取了游戏账号上价值上万元的游戏装备，作案后电脑数据已被清空。他们现在要做的就是恢复嫌疑人删除的AI换脸软件、聊天记录和交易数据。

    奇安信专家介绍，嫌疑人可能会对电脑进行格式化或者删除作案证据。实验室通过技术手段，将嫌疑人的作案数据进行恢复还原，把整个作案的行为进行复现。

    通过视频演示，记者看到了嫌疑人利用AI换脸技术，生成动态人脸视频，已通过游戏平台的人脸识别验证，提取用于诈骗的虚假动态人脸视频的全过程。这为司法机关下一步的案件侦破提供了关键证据。

    奇安信洞鉴实验室负责人段继平表示，实验室通过技术完整的把犯罪嫌疑人实施犯罪活动关键证据的证据链实现了闭环，从而帮助司法机关对后续工作提供了证据支撑。

    多起AI换脸诈骗的案件提醒我们，防御之网必须织得更密，魔高一尺，道更需高出一丈，这不仅是一场技术博弈，更是关乎每个人财产安全的防御战。专家呼吁监管部门、互联网平台、科技金融等各类企业要共同搭建起动态更新的图谱库，研发能精确捕捉生理信号的活体检测，用AI反制AI，让伪造视频在算法面前无所遁形，为民众财产安全筑牢坚实底座。