启明星辰发布“面向大模型的业务安全审计分析平台”，守护千行万业的DeepSeek大模型应用
发布时间 2025-03-07“让每一句人机对话都安全可信，让每一次智能交互都风险可控——这是属于AI时代的安全承诺。 —— 启明星辰”
AI时代：安全防护从静态功能防护向动态推理防护演进
随着AI时代的到来，当安全保护对象从传统业务应用转变成大模型驱动的智能应用，我们又该如何应对？
传统业务安全防护聚焦于相对确定的静态功能、数据和服务，而AI时代生成式大模型具有动态语义理解能力和开放域交互特性，用户可基于问答在多领域、多行业场景下进行问答应用，业务功能不再局限于固定的业务功能和用户操作，而更多是基于问答式的动态多变的业务场景和功能。对于业务应用的保护重心从相对静态的功能和数据保护升级为实时对抗的动态推理战场。
面向大模型的业务安全审计分析平台
在此背景下，启明星辰推出面向大模型的业务安全审计分析平台（简称AI-R-BSAP），聚焦于大模型应用的用户行为审计与风险监测，提供业务无感式安全保护，通过输入意图分析、输出合规审查、上下文语义监控、多模态综合分析构建大模型智能应用的多维防御矩阵，护航大模型应用安全赋能千行万业。
产品特点
• 无侵入式智能感知
通过旁路采集技术，利用大模型流量审计引擎和日志采集引擎，在不改造业务流程的前提下，实时解析大模型输入输出数据流，基于自适应协议解析引擎，精准识别对话、文件、代码等交互内容，实现业务无侵入的大模型应用安全防护。
• 动态博弈实时对抗
搭载DeepSeek自适应防御引擎，构建攻防一体的动态防护网。系统通过持续学习新型攻击手法（如变种越狱指令、跨模态隐写攻击），实现防御策略小时级进化，让安全能力与威胁演进同步升级。
• 协同防御智能升级
通过联动MAF（大模型应用防火墙）引擎，将业务安全审计能力与MAF网关产品的风险处置能力结合，构建新一代协同防御体系。基于实时风险共享机制，动态生成精细化处置策略，实现高风险用户、高风险问答的精准控制。
• 元数据驱动高质分析
基于AI就绪的安全数据通层(AI-R-SDLayer)的元驱数据全域治理引擎，以元数据为驱动核心，通过统一的数据模型、数据标准体系和智能数据治理机制实现高质量数据管理，驱动可靠的用户行为风险分析和模型安全风险监测。
产品功能
• 全过程数据审计
通过大模型应用日志、大模型应用进出流量两重手段，确保大模型应用过程中用户提问、模型思考、模型输出等相关数据被全面采集，实现大模型应用全链路审计。
• 全面风险识别
内置200+风险分析模型，利用对抗样本检测、意图识别引擎、多模态语义分析，伦理合规评估等技术，精准识别提示词注入、敏感信息泄露、部署环境攻击、伦理偏见等安全风险。
• 智能研判工具
基于DeepSeek大模型构建动态智能的研判分析引擎，提供智能问答日志分析、对话控制模型构建、多模态溯源分析等丰富研判分析工具，辅助安全审计人员实现高效研判。
智能问答
• 快速风险溯源
对每次问答进行记录存储，并提供风险溯源审计功能，当问题事件发生时，可快速根据线索追溯风险用户、风险ip、风险位置。
• 动态安全评估
从提示词注入、敏感信息泄露、环境攻击风险、伦理偏见审查等维度进行安全风险分析，搭建从问答、对话、用户到模型等多维度、立体化维度搭建风险评估体系，并随着大模型应用不断使用，实时动态评估模型安全。
对话控制模型构建
在AI快速发展的今天，大模型为千行万业发展注入新的活力，大模型应用即将在工作、学习和生活中大放异彩。启明星辰面向大模型的业务安全审计分析平台，实现从风险预警、风险处置到合规溯源的闭环防护，致力于让大模型应用更安全、更可靠、更合规，守护大模型从实验室到落地的最后一公里，助力企业在AI时代扬帆起航，乘风而上。
京公网安备11010802024551号