2025中国移动云智算大会 | 启明星辰潘柱廷:解码大模型应用安全新赛道

发布时间 2025-04-11
4月10日,以“智算启新 安全筑基”为主题的2025中国移动云智算大会智算基础设施及安全分论坛在苏州成功召开。会上,中国移动联合启明星辰等发布《算力网络安全关键技术白皮书》,启明星辰副总经理潘柱廷发表题为《解码大模型应用安全新赛道》的主题演讲,系统阐述了大模型应用安全MAS新赛道、新格局,创新性提出通过智能体集群路径,推动网络安全防御体系升级的战略构想。


图片1.jpg


潘柱廷以启明星辰大模型应用安全产品矩阵为切入点,指出自2025年2月6日起,启明星辰以周为单位加速产品迭代,已完成多项技术升级,成功构建完整的大模型应用安全产品矩阵,形成覆盖全场景的大模型应用安全防护体系。

在大模型应用安全的智能体集群化演进路径分析中,潘柱廷强调ChatGPT推动AI从学术圈走向技术圈,而DeepSeek作为大模型领域王炸级、国运级技术产品,凭借轻量化架构和低成本的特性加速AI技术向全行业渗透。这种技术革新不仅重构企业组织形态和创新机制,还催生出服务侧、访问侧及高价值场景深度应用安全需求的新赛道,引领人工智能进入全面创新的新时代。

针对大模型应用的安全风险,潘柱廷则提出"需重视但无需焦虑"的核心观点。他表示,目前启明星辰等产业各方已具备成型的安全防御产品及方案,如通过动态防护体系有效应对智能体自主决策风险,通过智能体集群治理方案解决多智能体协作中的权限与伦理冲突等,切实保障大模型应用形成的新安全格局。


随着AI应用向跨域协同的智能体网络演进,网络安全防御体系正同步向智能预测方向升级。作为中国移动专责网信安全专业子公司,启明星辰将与中国移动持续深度融合,重点加大在AI安全治理、算网融合安全等领域的研发投入,共同构建智能时代的安全基座,为数字中国建设提供坚实的安全保障。