企业动态

    9月17日，第22届中国—东盟博览会暨中国—东盟商务与投资峰会在广西南宁市隆重召开。在本次博览会同期举办的中国—东盟人工智能安全前沿论坛上，广西人工智能安全研究院暨奇安信中国—东盟人工智能安全研究院首次亮相，同时奇安信大模型安全护栏新品正式对外发布。

    本次亮相的人工智能安全研究院聚焦三个方向：一是立足人工智能场景开展“数网智”安全技术创新；二是推动人工智能安全规范互认互通；三是打造人工智能安全人才交流与培育平台，最终形成我国面向海外开展网络安全业务的龙头品牌。

    而大模型安全护栏以“守护智能未来，构建可信AI”为核心理念，无需客户改造大模型，即可提供全链路安全防护，从而帮助千行百业的大模型应用筑牢安全屏障，推动AI技术在安全、可控、可信、合规的前提下释放真正价值，为中国和东盟国家的数智化发展保驾护航。

    01    共建人工智能安全研究院 破解AI发展安全难题

    “当前，AI浪潮席卷全球，AI发展过程中最大的问题就是安全问题，而AI安全问题又主要归因为大模型、智能体向‘超人’的演进。”奇安信集团董事长齐向东在致辞中表示，AI“超人”具备超级权限和超级能力，能力越大风险越大，让AI“超人”安全地为我所用，关键是管住“框数人链”四个环节，即“对话框”、“数据”、“内鬼”和“生态链”的安全。

    齐向东认为，确保AI“超人”安全是技术问题也是投入问题，AI安全投入不能低于AI应用总投入的15%。“没有充足的网络安全预算，就形不成符合时代要求的安全能力，就堵不上AI‘超人’捅破的‘安全窟窿’。”

    “研究院是专注于人工智能安全领域的新型研发机构，定位于研发可落地的大模型安全核心技术，推出具有市场竞争力的AI安全产品，服务于广西重点行业数字化转型，并面向东盟拓展应用市场，打造成我国面向海外开展网络安全业务的龙头品牌。”奇安信集团副总裁、奇安信中国-东盟人工智能安全研究院院长刘浩表示。

    据介绍，人工智能安全研究院将落实三项工作，一是人工智能安全标准研究，包括与高校共建研究生联合培养基地等；二是安全检测与评估服务，将构建“AI安全评测与验证平台”；三是安全能力创新研究，如建立人工智能安全攻防实验室等。未来，奇安信将和合作伙伴一起，通过权威指导、技术引流、成果转化、科研提质、组织构建、合作拓展等举措，共同打造人工智能+安全生态联盟。

    02 发布大模型安全护栏  构筑“三位一体”安全框架

    今年以来，AI高速发展背后的安全风险与合规挑战，愈发引起全球范围的重视。8月26日，国务院印发《关于深入实施“人工智能+”行动的意见》，提出推动人工智能与经济社会各行业各领域广泛深度融合，同时要强化政策法规保障，提升安全能力水平。同样，《东盟人工智能治理与道德指南》也指出，AI系统必须确保安全（Safety）与安全性（Security），针对AI特有攻击采取必要的网络安全措施。无论是宏观政策新趋势，还是客户面临的新威胁，都使得构建智能与安全并重的AI防护体系势在必行。

    本次发布的大模型安全护栏，以“无需改造大模型”为核心突破点，为客户构建起全链路的“AI安全护栏”。它支持轻量化部署，可轻松接入企业现有AI应用，具备实时检测拦截、精准识别过滤、无忧部署与运维三大核心价值，有效防御提示词注入、模型对抗攻击、模型窃取、数据泄露等多种大模型新型风险，在高效全面安全防护的同时，显著降低企业安全管理成本，真正解决企业“想用不敢用”大模型的顾虑。

    在技术架构方面，奇安信大模型安全护栏，构建了“管控-检测-溯源”三位一体的安全框架，从“架构防护”“智能对抗”“内容治理”三个维度为大模型筑牢安全防线，实现安全自适应、访问强管控、行为可溯源的防护效果。

    其技术优势体现在三个方面：

     首先是智能安全对抗引擎，基于AI与语义理解技术，可自动检测并拦截提示词攻击、恶意代码生成等超过70类新型威胁，拦截率超99%，同时具备对抗样本识别能力，能主动应对不断变异的AI攻击手段。

      其次是分层检测与拦截架构，作为奇安信首创技术，该架构实现毫秒级轻量防护，可精准防御漏洞攻击、API滥用等多种威胁，兼顾安全性能与系统效率。

     最后是上下文感知的数据泄露监控技术，通过分析对话上下文，能高精度识别身份证号、技术文档、隐私信息等敏感内容，实时阻断数据“主动投喂”与“被动泄露”，检出率高达99.6%。

    03 全场景覆盖  让AI安全可见、可管、可溯

    从产品功能来看，奇安信大模型安全护栏实现了全场景覆盖：

    安全防护层面，可全面防御提示注入、越狱、算力损耗等针对大模型的攻击行为；

    数据泄露管控层面，实时监控并拦截敏感数据投喂，防止核心资产外泄；

    访问与行为管控层面，能精准控制对话长度、文件上传权限，避免权限滥用；

    内容安全与合规层面，通过内容审计、价值观过滤，拦截违法违规内容；

    溯源与审计分析层面，建立身份识别机制，可精准定位风险源，为安全事件追溯提供完整依据。

    所有这些功能，确保AI应用全景可视，让安全可见、可管、可溯，一切尽在掌控。

    更值得关注的是，该产品坚持“全栈自主可控”，从CPU、算力资源，到操作系统、数据库，已实现硬件与软件的全栈国产化，彻底摆脱对外依赖，保障关键信息基础设施安全。同时，其“零改造部署”特性让企业无需改动现有系统，可快速平滑接入；“毫秒级护栏”确保涉密、敏感、违规内容实时拦截；“一站式合规”设计则全面满足政务、金融等重点行业的合规要求，让企业交付安全无忧；而“多语言支持”可以封堵多语种绕过审核机制的漏洞，支持英语、印尼语、马来语、越南语、泰语等多国语言，支持多语言场景下的内容检查。

    目前，奇安信大模型安全护栏已在多个客户完成典型应用场景的价值验证，涵盖流程自动化、智能客服、内容生成、行业知识库等各类场景，可有效解决模型可靠可控、隐私保护、信息合规等核心痛点，为各行业智能化转型提供安全基座。

    研究院+产品双重布局，为AI发展保驾护航

    此次人工智能安全研究院的亮相，与大模型安全护栏的发布形成“研究院+产品”的双重布局。刘浩表示，未来奇安信将以研究院为纽带，并依托大模型安全护栏等产品，深度结合中国和东盟地区的数字经济发展需求，持续深化智慧政务、智慧金融、智慧医疗、智慧教育、智慧农业等场景的AI安全建设，共同构建可信AI生态，为“人工智能+”时代保驾护航。