企业动态

    近日，第九届CSA大中华区大会在上海举行，奇安信人工智能公司凭借创新产品“大模型卫士”荣获“安全磐石奖”，展现了公司在AI安全领域的技术领先性与行业影响力。

    当前，AI正从生成式迈向智能体时代——大模型不再只是“问答工具”，而是具备自主规划、工具调用与多步推理等能力的“数字员工”。安全风险也随之从提示词对抗，升级为覆盖模型、访问、资源、行为与结果的体系化挑战。奇安信大模型卫士应运而生，为企业AI应用的规模化落地筑牢安全底座。

    奇安信大模型卫士集成了大模型安全网关（GPT-Guard）、安全风险AI鉴定平台、监测审计平台三大核心组件，构建了“检测-管控-审计”一体化防护闭环，具备提问/回复内容审计、风险行为管控、访问异常检测、敏感数据过滤等全流程安全能力，并拥有四大核心技术优势：

    四大核心技术优势

    1零改造嵌入，即刻生效

    产品与主流大模型及应用架构深度兼容，可无缝集成到企业现有IT环境。无需改动一行业务代码，即可快速完成大模型安全防护部署，将安全准入门槛降至最低。

    2首创分层检测与智能拦截架构

    基于AI自研的分层检测与拦截架构，提供毫秒级响应的轻量级防护。结合自研安全对抗引擎，以攻促防，能够精准识别并拦截提示注入、越狱攻击、恶意指令、上下文污染、角色扮演绕过等多类针对大模型的攻击行为，并通过持续对抗训练实现防护能力的自我进化。

    3全链路风险可视化与智能分析

    利用AI的自我学习能力，对大模型安全风险进行基线建模、聚类分析与关联挖掘，提前发现潜在威胁并主动采取防护措施。同时通过监测审计平台实现全量会话遥测与行为追溯，让安全风险“看得见、溯得清、管得住”。

    4面向智能体安全的架构级演进

    大模型卫士在夯实模型层安全的基础上，正加速向智能体纵深防护演进——规划构建覆盖模型控制、访问控制、资源控制、行为控制与结果控制的五层防护架构，为即将到来的Agent大规模部署提前储备安全能力。

    奇安信大模型卫士针对企业AI应用落地的差异化需求，提供三大典型场景解决方案：

    1、内网自建模型/应用

    针对金融、政务、科研等对数据隐私要求极高的领域，产品部署于模型输出层与内部应用接口之间，充当“内部防火墙”。在保障数据不出域的前提下，对生成内容进行实时检测与安全干预，有效防止敏感信息泄露与不合规输出。

    2、自建应用+公网API调用

    对于需要快速集成公有大模型能力，又必须遵守严格数据安全法规的医疗、法律、客服等行业，大模型卫士部署于自建应用与公网API之间。在请求发出前对输入信息进行脱敏、去标识化处理，并对返回内容进行合规检查，确保企业在享受公有模型能力的同时，牢牢掌握数据安全主导权。

    3、内网访问公网大模型应用

    面向普遍存在的内网员工访问公网大模型应用的需求，大模型卫士对所有出网请求与入网内容进行统一审计与管控。企业可制定统一的大模型使用策略，平衡员工利用公共AI资源的便利性与组织网络安全、合规风险之间的关系。

    目前，奇安信大模型卫士已通过公安部三所《大模型安全防护围栏产品认证（增强级）》认证，并在超过20个行业的百余家客户中完成实验局验证，能够有效防御提示词注入、越狱攻击、恶意指令、数据泄露等多种风险，真正实现大模型应用的“管得住、看得清、防得稳”。

    此外，该产品已获得Gartner、IDC、数世咨询等国内外权威机构的认可，被纳入多份大模型安全相关研究报告并给予推荐。面向智能体时代，奇安信将持续以“大模型卫士”为基座，加速构建覆盖模型、访问、资源、行为与结果的全生命周期AI安全防护体系。