媒体声音 | 启明星辰：深化实施“人工智能+安全”，筑牢智能安全新防线
发布时间 2026-02-09一方面，顶层设计持续强化，推动“AI+安全”能力向合规化发展。《中华人民共和国网络安全法》完成首次重大修改，增设了AI安全相关规定，明确提出“国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设，完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展。支持创新网络安全管理方式，运用人工智能等新技术，提升网络安全保护水平。”这从法律层面确立了发展与安全并重的原则，为国家支持AI发展及其治理体系建设奠定了基本框架。
另一方面，AI赋能攻防博弈，推动“AI+安全”应用纵深发展。当前，攻防双方均积极利用AI技术提升自身能力，推动攻防博弈迈向高维智能化阶段。生成式人工智能（GAI）的普及使深度伪造、自适应攻击等新型威胁规模化、低门槛化特征，对社会信任基础构成严峻挑战，倒逼防御技术快速从实验室走向实战。防御方积极利用AI提升威胁检测、自动化响应与态势感知能力。攻防双方在智能化能力上的持续对抗，进一步深化AI与安全的融合发展。
展望2026年，在政策引导与技术革新的双重驱动下，“AI+安全”的发展将持续走深向实，呈现出融合化、场景化、应用化、高韧性的特征，主要体现以下三个方面：
一是AI赋能安全与AI应用安全并行发展。当前，AI与安全的融合正从单点工具应用向体系化能力重构深化。AI赋能安全正向高度智能体化演进，包括网络安全运营、威胁检测、数据安全、脆弱性评估、威胁情报分析及智能化渗透测试等在内的各类安全智能体，正逐步成为大型组织的核心安全能力选项。同时，AI应用安全催生了多样化、细分化产品和技术方向，例如大模型应用防火墙、安全护栏、访问代理、数据脱敏、AI生成内容溯源、大模型安全评估与运行时保护等技术与产品将日趋完善，推动AI应用安全防护体系不断完善。
二是AI安全治理体系将在实践中持续完善。随着相关法规落地见效以及AI安全事件频发，监管与实践的重点将从原则框架转向实施细则。针对AI大模型的安全检测评估、威胁建模、生成内容真伪鉴别以及训练数据的合规使用与溯源等领域，将成为技术研发、标准制定和监管执法的长期焦点。其中，AI威胁建模分析成为系统构建和落地实施AI安全治理体系的基础性环节，应基于实战攻防推演与安全智库研判，构建覆盖全局的大模型威胁框架，深入剖析模型自身、数据与隐私、基础设施、模型应用及智能体等关键层面的安全威胁；通过系统识别潜在风险、全面评估现实漏洞，形成动态风险图谱，为制定精准防御策略、落实负责任人的工智能发展提供体系化支撑。
三是智能体集群化应用催生智能体安全发展。随着AI智能体在多样化场景中逐步实现协同与集群化作业，多智能体与集群化趋势日益显著，相应的新型安全机制亦需前瞻布局。其安全范畴应从单一智能体扩展至整个智能体集群的协同安全与全局可控，涵盖多智能体系统的身份认证与权限管理、行为协调与合规审计，并需加强对模型上下协议（MCP）、智能体间交互协议（A2A）和智能体构建协议（ACP）等主流交互协议的安全保障，从而系统应对可能出现的协同失控、链路攻击与责任界定等新型风险挑战。
文章引自于：《中国信息安全》
京公网安备11010802024551号