企业动态

    随着人工智能技术的迅猛发展，AI生成内容正日益渗透至各类传播渠道，引发公众对信息真实性的广泛关注。央视记者联合奇安信安全专家张庭，通过对直播平台疑似AI合成视频的深入分析，揭示那些看似真实却暗藏“瑕疵”的AI合成视频。

    今年3月，国家网信办等四部门联合发布了《人工智能生成合成内容标识办法》。9月1日，这项办法就将正式施行。其中最值得关注的是所有人工智能生成、合成的内容，必须打上标识。那么新规为何要做这样的强制要求？未做标识的AI画面会对公众造成怎样的误导呢？

    近段时间，在抖音、快手等平台直播间，一款名为“樟树港辣椒种子”的产品成了一些网络主播卖货推销的重点，但是有网友却发现，直播间里展示的辣椒画面，看起来并不是很真实，疑似是由AI生成。

    在平台直播中，记者看到，这些主播展示的视频大同小异，都是成串垂挂、排列整齐且硕大的辣椒果实，乍一看似乎这款辣椒的产量非常高，时不时就有人下单购买。当记者询问主播视频保不保真，辣椒种出来有没有这么大时，大部分主播都表示，所见即所得。

    就在这个主播回答提问的时候，背景视频却出现了农户站在快要没过膝盖的深水里采摘辣椒的场景。这样的场景显然不符合正常情况，而且类似的场景，在其他主播的直播间也能看到。这些会不会是AI生成的视频呢？记者找到技术专家，帮忙辨别。

    奇安信集团安全专家张庭：像在这一段这个人物在往后退的时候，就直接进入到了这一片的辣椒里面，这和我们自然的过程是不符合的，我们专业里面叫穿模，这是一个典型的AI生成的视频中间会容易出现的问题。

    另外，专家也发现这些直播使用的视频，在无人机喷洒化肥农药的片段中，水雾的形态呈现规则的三角形状，不符合自然的雾化状态，在盆栽辣椒植株展示的片段中，花朵过大，而且只集中在顶端，这些都不符合自然规律。

    奇安信集团安全专家张庭：我们从视频中能够看到，它存在着一些不太符合自然规律的这个现象，和一些细节方面不符合自然的状态，很有可能这个视频就是由AI生成的。

    张庭表示，这次《人工智能生成合成内容标识办法》的出台，是应对AI深度伪造技术所带来的虚假信息、网络诈骗和舆论操纵等安全风险的及时且必要的举措，通过强制标识为AI生成内容贴上“数字身份证”，能有效警示公众并提高恶意传播的门槛，是从源头遏制潜在危害的关键；同时，《办法》构建了透明的信任基石，保障了公众知情权，为人工智能产业的健康有序发展提供了清晰的合规准则，展现了我国在AI治理领域的前瞻性决心与智慧，是对数字未来负责任的有力护航。