需求分析
随着生成式大模型(LLM)技术的发展与行业应用,以及国产大模型现象级产品DeepSeek的快速普及、推广,各行业业务场景中已广泛渗透大模型应用,涵盖智能客服、数据分析、代码生成、决策辅助等核心环节。
大模型凭借其丰富的预训练数据和强大的通用性,为众多用户提供便捷高效的服务,如智能客服、内容创作辅助等。随着大模型应用的深度和广度不断拓展,数据作为其核心资产,流动于用户、公域平台、私域系统之间,数据安全的重要性愈发凸显。一旦数据出现安全问题,不仅会损害用户权益,还可能导致企业面临法律风险、声誉受损以及业务中断等严重后果。对访问侧和应用接入侧具备数据安全管控能力的大模型访问脱敏罩产品应运而生。
产品简介
产品简介
大模型访问脱敏罩 MADA Mask(Model Application Desensitization Access Mask),为访问侧、用户应用侧提供了更专业的数据脱敏防护,有效解决机构对外访问大模型的时候避免自身敏感数据泄露的安全问题。 MADA Mask通过在用户与大模型应用之间的数据交互过程中,对用户输入数据及上传文件内容进行识别、脱敏和行为阻断管理,有效防范数据泄露风险;确保在敏感信息进入大模型前进行脱敏处理,并在输出时进行二次检查,防止任何潜在的敏感数据暴露;用户在使用大模型问答时,通过对大模型问答全程审计分析,稽核套取信息的行为,降低合规风险,提升整体安全水平。
功能特点
MADA Mask数据智能识别引擎,通过敏感数据主动探测技术,基于丰富的敏感数据模型、多种识别规则和AI技术,能够准确识别和定位用户输入数据和上传文件中的敏感信息。
MADA Mask系统采用数据替换、数据加密、数据泛化、数据扰动、数据删除等技术手段,能够根据数据类型和业务需求,灵活制定数据脱敏规则,同时通过数据增强技术在确保用户输入和上传文档中的敏感数据安全脱敏的同时,不影响大模型分析使用。
系统运用先进NLP技术与算法,对每一次输入至大模型的内容展开实时且深度的扫描,一旦精准检测到高风险敏感信息,便毫秒级触发内容输入阻断功能。
通过对不同身份的细致管理,采取身份验证、权限设定等措施,确保系统的安全可靠,有力地保护了数据隐私。
从文件上传的初始瞬间,到输入内容提交的关键节点,再到脱敏处理的核心环节,全流程中的每一个操作,无论是操作发生的精准时间,执行操作的具体人员,操作所涉及的详细内容,还是操作最终产生的结果都被记录。一旦出现安全问题,可通过审计日志快速追溯,查明原因,为安全改进提供依据。
Copyright © 启明星辰 版权所有 京ICP备05032414号
京公网安备11010802024551号