需求分析
近年来，随着人工智能技术的飞速发展，大模型在各个领域得到了广泛应用。相较于AI大模型技术发展，大模型应用安全研究是相对滞后的。在大模型应用中，价值对齐和隐私保护是关键挑战。大模型应用的安全风险已对个人、企业乃至整个社会构成了不容忽视的严重威胁。以著名的“奶奶漏洞”为例，攻击者利用精心设计的特定话术，诱导大模型应用绕过安全机制，生成违规内容。这些事件不仅带来潜在的巨大业务损失，还严重损害了企业的品牌声誉，导致客户流失，并增加了应对数据泄露的后续处理成本。此类事件凸显了大模型应用在数据内容安全方面的脆弱性，企业的敏感数据内容在未经充分保护的情况下，极易通过大模型应用泄露，对企业的核心利益造成巨大冲击。如何对大模型安全进行安全评估和防护急需解决内亟需解决的问题。
产品简介
产品简介
天镜大模型应用安全评估与加固系统（简称：MAVAS）是基于泰合安全大模型研制的创新智能体产品，采用“以模型对抗模型”的创新方式，支持智能生成多样化的对抗攻击样本试题，并实现自动化专业评估大模型应用在不同场景中生成内容的安全性。评估能力涵盖不当内容输出测试、对抗攻击测试、鲁棒性测试、环境脆弱性测试等多个维度。同时，基于内置大模型安全加固引擎能力，还能帮助用户对大模型应用输入输出的不安全内容提供多种精准安全防护措施，防护能力涵盖不安全提问拒答、敏感词输出屏蔽、不安全对话拦截等多种策略，可形成安全评估到防护的闭环方案，保障用户大模型应用安全、可靠与合规应用。
功能特点
-
安全评估：
采用“以模型对抗模型”的方式，基于内置多样化的对抗攻击样本和大模型评测基准模型能力，实现自动化评估大模型在不同场景生成内容的安全性。
-
安全加固：
基于内置敏感词库和风险识别模型双重策略配合，支持对大模型输入输出的不安全内容进行实时检测与安全治理，可与安全评估能力形成闭环方案。
-
资产发现：
利用主动探测技术，全面识别企业内部私自搭建的大模型服务及相关资产，实现统一可视化管理，有效消除因“影子AI”带来的安全风险。
-
漏洞检测：
扫描主流大模型依赖的应用组件、智能框架及开发工具，精准识别缓冲区溢出、代码注入等已知高危漏洞。
-
配置检测：
自动检查大模型应用组件的安全配置，识别如不必要端口/服务开放、弱密码策略等风险配置，确保系统以安全基线运行。
-
WEB检测：
深度扫描大模型依赖的Web应用组件（如API、管理界面），检测SQL注入、XSS跨站脚本等常见Web攻击漏洞，阻断潜在攻击路径。
技术优势
-
模型内容安全评估
提供100000+高质量对抗攻击样本预料库，覆盖道德伦理、敏感话题、反面诱导、目标劫持等多种场景
-
模型试题快速增强
基于内置试题增强模型，通过语义扩展与多维重构，提供评估试题批量衍生能力，实现评估试题的快速补强。
-
模型内容安全加固
精准识别大模型应用输入输出的不安全内容，并提供拒答、屏蔽、拦截、预警等多种安全防护策略.
-
模型环境安全评估
支持自动识别企业内部私搭乱建的大模型应用资产，并提供一键式资产脆弱性评估功能。
典型应用
场景 1：赋能大模型开发企业 - 前置安全，护航研发
MAVAS 为大模型应用研发企业提供多维度风险评估能力，在产品研制与训练阶段主动发现潜在安全隐患，并辅助验证修复效果，规避大模型应用上市后因安全问题引发的声誉损害与法律合规风险。
场景 2：赋能大模型应用企业 - 全周期防护，保障安全合规
MAVAS 为大型模型应用运行企业提供覆盖上线前、后的常态化安全评估能力。同时，针对模型应用输入输出内容，提供风险提问拒答、敏感词屏蔽、不安全对话拦截等安全加固措施，确保大模型应用安全、可靠及合规应用。
场景 3：赋能政府与监管机构 - 强化合规监管，守护公共安全
MAVAS 为政府与监管机构提供强有力的监管科技支撑，保障各行业大模型应用符合国家法规、政策及标准要求。通过全面评估与持续监测企业大模型应用安全管理和风险防范体系，切实维护社会公共利益、国家安全与公民权益。
（1）企业本地化部署：支持本地化部署方案，不影响企业本地业务和网络架构，且保障企业内网数据安全与隐私。
（2）云端SaaS化部署：支持远程SaaS化服务，采用互联网接入，零部署，免维护，即时开通。可提供单次或定期评估服务。
京公网安备11010802024551号