企业动态

    近日，全国网络安全标准化技术委员会对外发布了《网络安全标准实践指南——生成式人工智能服务安全应急响应指南》（以下简称：《实践指南》）。本《实践指南》描述了生成式人工智能服务安全事件的分类、分级方法和生成式人工智能服务安全应急响应过程的管理措施和技术方法，适用于生成式人工智能服务提供者以及相关部门开展安全应急响应活动。

    作为国内网络安全行业领军企业，奇安信凭借在生成式人工智能服务安全应急响应方面的积累，成为《实践指南》文件的核心起草单位之一，并深度参与该文件的编制工作和技术支撑，充分发挥该文件对于生成式人工智能服务安全应急响应的指导和建设意义，为AI落地及发展提供助力和保障。

    全国网络安全标准化技术委员会秘书处指出，为贯彻落实《生成式人工智能服务管理暂行办法》要求，指导生成式人工智能服务提供者等有关单位做好安全应急响应工作，秘书处组织编制了《网络安全标准实践指南——生成式人工智能服务安全应急响应指南》。

    《实践指南》界定了生成式人工智能服务等关键术语，将安全事件分为信息内容、数据、网络攻击等类型，如违法信息生成、数据泄露、模型篡改等事件；同时依据影响对象重要程度、业务损失及社会危害等，将事件分为四级。

    《实践指南》明确指出，应急响应过程含应急准备、监测预警、应急处置、总结改进四阶段：准备阶段需制定策略、预案，建关键词库等；监测阶段要实时监测模型与数据，自动预警；处置阶段按级别采取措施，三级及以上事件需即时报主管部门；总结阶段需复盘优化预案。

    作为《实践指南》文件的起草单位，奇安信集团密切关注生成式人工智能全生命周期的主要威胁，深度参与国家相关标准与规范的制定与起草工作。奇安信是信通院“云上大模型安全推进方阵”成员单位、生成式人工智能服务安全应急响应指南《网络安全标准实践指南》起草单位、大模型安全测评标准参编单位、安全大模型能力要求与评估方法核心参编单位。同时，奇安信还是《政务大模型应用安全规范》的起草单位之一。

    目前，奇安信针对生成式人工智能可以提供涉及安全开发保护、安全合规测试、安全评估、安全运行防护、智能安全运营与安全响应在内的多项产品与服务，包括大模型安全评估服务、大模型安全卫士、零信任访问控制、数据安全网关、特权卫士、代码/开源卫士等，致力于为生成式人工智能应用提供全生命周期的安全保障，确保广大政企机构的智能化转型行稳致远。

    不久前，国务院印发了《关于深入实施“人工智能+”行动的意见》，提出推动人工智能与经济社会各行业各领域广泛深度融合，同时要强化政策法规保障，提升安全能力水平，加快形成动态敏捷、多元协同的人工智能治理格局。《实践指南》的发布，将更好的指导生成式人工智能服务提供者及相关部门提高安全应急响应能力，加速生成式人工智能相关产品服务的普及落地等具有深远意义。