企业动态

    10月24日，2024中国计算机大会（CNCC2024）正式开幕。大会以“发展新质生产力，计算引领未来”为主题，邀请到了17位国内院士，800余位国内外顶尖学者、企业技术精英，带来特邀报告、大会论坛、138场专题论坛等活动。奇安信集团作为网络安全行业领军企业，受邀出席大会，并有多位安全专家进行了精彩分享。

    24日下午，由CCF计算机安全专委会和奇安信集团共同主办的“AI时代下的数据安全挑战与对策前沿学术论坛”顺利举办。与会嘉宾探讨分享了当今人工智能技术与应用高速发展下数据安全的创新之路。

    中国计算机学会计算机安全专委会常务副主任、公安部第一研究所研究员于锐在致辞时表示，要推动公共数据应用，其授权、确权和安全问题是必须要解决的。如何统筹发展与安全，提升数据安全治理和保障能力，需要做好以下几点：一是加强数据的监测预警平台和应急保障体系建设，提高预警分析溯源和高效应对的能力；二是加强数据安全新技术研发与应用，提升防护能力，筑牢应用基础；三是加强数据安全意识和人才培养，在实践中锻炼培养和建设人才队伍。与此同时，还要围绕数据安全关键环节探索创新人工智能和数据安全结合点，并高度重视研究人工智能技术应用带来的新型网络和数据安全风险。

    随着网络攻击的日益复杂，如何确保网络安全产品间能够有效地交换数据，成为了提升整体网络安全防护能力的关键。对此，公安部第三研究所副所长金波带来了深入的解读。他不仅分析了国内外数据交换相关法律法规的发展情况，还从研究过程、特点与关键技术、结构与主要内容、应用与推广等多个维度，详细介绍了CCF团标——网络安全产品数据交换技术规范。金波副所长强调，要以标准化为引领，推动我国网络安全生态建设的持续健康发展。

    随着AI技术的迅猛发展，大模型的安全合规与治理已成为备受关注的全球性议题。复旦大学计算机科学技术学院院长杨珉带来了其团队在数据、模型和算法三方面的原创研究成果。他系统性地探讨了开放网络环境下的安全问题，并着重指出通用大模型安全合规评测的重要性。还介绍了国内外大模型安全评测的现状及挑战，并强调AI发展与安全需统筹推进，需动态持续监测大模型的安全合规能力，以确保AI技术的健康发展。

    在合规背景下，隐私保护技术在AI创新中的应用显得尤为重要。中国科学院计算机网络信息中心副主任龙春带来了关于AI模型数据隐私的深入见解。他指出，模型全周期数据隐私泄露风险存在于数据采集预处理、模型训练、参数优化、模型推理及数据保留等多个阶段。如何有效抵御成员推理攻击、属性推理及个人身份泄露攻击等隐私威胁，避免隐私及敏感数据被识别及重构，成为AI数据隐私安全的关键问题。

    针对AI数据安全风险，中国科学院信息工程研究所研究员陈恺强调了训练数据作为重要数字资产的价值及其涉及的用户隐私保护问题，并针对成员推断攻击、模型逆向攻击及大模型隐私窃取攻击等安全风险进行了详细的技术分析。同时，提出了相应的防御策略，如模型蒸馏以减轻成员推断攻击影响、训练集预处理以增强模型隐私保护等，为AI数据安全防护提供了有力的支持。

    奇安信集团云与大数据安全BG产品部总经理王茜指出，在垂直领域大模型的训练和部署过程中，AI基础设施的脆弱性、模型与数据集的安全风险等都可能对模型的正常运行和数据的保密性、完整性构成严重威胁。针对这些安全挑战，她提出了基于技术架构和生命周期的安全能力建设思路，并强调要在模型训练、部署和运行的不同阶段，采取差异化的安全解决方案，以应对云原生平台、大模型供应链、数据防护、内容合规等安全风险，为AI技术的安全应用提供了有力的保障。

    在25日举行的“国家数据基础设施——政策、技术和产业的发展之路”主题论坛上，奇安信集团副总裁、数据安全首席科学家刘前伟进一步分享了AI时代背景下，如何构建全面且有效的数据安全合规体系，以确保数据基础设施及数据要素的安全流通与利用。

    数据基础设施支撑数据要素发展，数据安全是重要组成部分，数据基础设施的建设和落地对数据安全保障提出了更高要求。

    刘前伟表示要从业务和安全双视角出发，以数据资产为核心，关注数据流转，将安全能力与业务系统深度融合、全面覆盖，实现安全业务内生融合。在此基础上用系统工程方法体系化构建安全能力。

    在保护数据基础设施安全方面，应建立“三级四层”的体系化防护能力，用内生安全方法构建算力节点安全体系，数据中心集群建“一体化运营”体系，建立“三级联动指挥”体系，将三层四级安全体系串联贯通，达成一体化数据安全目标。

    在保障数据要素安全方面，要坚持数据资源安全保护与数据要素流通安全合规并重，一方面要建设数据安全全链路防护能力，保护数据资源安全；另一方面要对数据分类流通、分级保护，构建数据要素化全流程安全合规体系，确保数据要素流通安全合规。