企业动态

    7月26日，2024世界人工智能大会（WAIC）在上海世博中心盛大启幕。今年大会汇聚了来自70多个国家和地区、1500余位顶尖专家，其中包括12位图灵奖、诺贝尔奖等顶奖得主，80余位中外院士和多个国际顶尖实验室代表，超过800家企业，全面展现大模型、多模态与具身智能的发展新趋势和最新成果。

    奇安信集团副总裁邬怡受邀出席“AI与人类的和谐未来”主题圆桌论坛，围绕AI安全风险与图灵奖得主、清华大学人工智能学院院长姚期智，美国加州大学伯克利分校教授斯图尔特•罗素，中国信息通信研究院院长、中国人工智能产业发展联盟秘书长余晓晖，英国皇家工程院院士、约克大学教授约翰•麦克德米，清华大学交叉信息研究院副院长、教授徐葳展开讨论。展会期间，奇安信通过与中国电子（CEC）、施耐德电气等合作伙伴的联合展示，全面呈现了公司在大模型安全、智能安全运营等领域的最新成果。

    奇安信副总裁邬怡：AI安全不能“裸奔”，需从系统视角构建防御闭环

    奇安信副总裁邬怡提出：AI安全不仅仅是模型本身的安全，更应从系统层级出发，关注AI生态系统中各类环节的协同安全。他认为，就像操作系统的安全高度依赖其周边系统一样，大语言模型的安全也受到数据、插件、工具链等外围要素的深刻影响。

    他指出，当前AI正向具备决策能力的“Agentic AI”演进，并以“数字员工”的形式深度参与业务流程。然而，正如人也可能误判或被误导，AI同样可能遭受攻击并作出有害决策。他以攻防实战经验为例指出：目前商用大模型普遍存在被注入攻击的漏洞，攻击方式也日趋复杂，模仿人类欺骗手法，让模型在不知不觉中输出违背其“安全原则”的内容。

    他警示说，AI一旦深度介入关键生产流程，其背后的网络攻击将可能穿透虚拟边界，直接影响现实物理世界的安全。这对关键基础设施而言，是极具破坏性的潜在威胁。他主张要将AI视作“具有人格角色”的系统参与者，引入工业化流程中的“双人操作、交叉验证”等冗余机制来应对AI的不确定性。

    邬怡强调，AI技术演进不可逆，不能因风险止步不前，但必须在节奏上保持审慎，特别是在安全机制尚未成熟的前提下，防止盲目推广。他呼吁政府、产业和科研界携手制定更系统化的AI安全标准和落地策略，确保在技术赋能的同时守住安全底线。

    联合展示：携手CEC与施耐德，呈现AI安全解决方案

    在本届世界人工智能大会期间，奇安信还通过与中国电子（CEC）和施耐德电气的合作展台，集中展示了其在AI安全领域的前沿技术与产品。

    在CEC中国电子展台，奇安信重点展出了“奇安信大模型安全空间”。该方案基于数百PB级的外部与内部数据（包括开源网站、威胁情报、产品文档等），构建了覆盖大模型全生命周期的安全防护体系，能够实现对数据投毒、提示词注入、越狱攻击等新型威胁的精准识别与快速响应。

    在施耐德电气展台，奇安信以“AI生态伙伴”身份，展示了其自主研发的QAX-GPT安全机器人。该智能体可与现有安全产品深度集成，孵化出多个细分领域的专家机器人，包括：AI+SOC 安全运营,AI+EDR 终端运营,AI+HIDS 主机安全运营等领域。现场观众驻足交流，对奇安信在AI安全领域的技术积累表现出浓厚兴趣。

    此外，奇安信受邀参与《中国人工智能安全承诺框架》发布环节。《中国人工智能安全承诺框架》由中国信通院牵头，在中国人工智能产业发展联盟（AIIA)《人工智能安全承诺》基础上，新增了加强人工智能安全治理国际合作、防范前沿人工智能安全风险等内容，体现了中国产业界愿与全球各方紧密携手，共促人工智能向善发展的坚定决心和开放态度。

    随着AI技术加速融入经济社会各领域，安全问题日益凸显。奇安信将继续发挥网络安全专业优势，积极参与AI安全标准制定与实践探索，为构建安全、可信、可持续的AI发展环境贡献力量。