一文预见AI 安全发展的新实践、新趋势
发布时间 2023-02-08编者按：
2022年，人工智能（AI）技术的新发展与新应用，依旧不停地捕获人们眼球，同时AI与网络安全的交叉碰撞，继续创造值得关注的新问题与新实践。本文详细介绍了AI技术发展新动态、AI安全新实践，分析预测了当前AI安全的发展新趋势。
AI技术发展持续高涨
在2022年度，AI技术继续保持高速发展，其中以下两点尤其值得关注：
一是生成式AI技术牢牢占据人们的视野。由文本生成图像的DALL•E2掀起这一热潮，其后以Stable Diffusion为代表的扩散模型，让每个人都可以成为数字图像艺术的创作者，还有可由文本生成视频的Make-a-Video与Imagen等。尤其近日横空出世的文本生成技术ChatGPT更是快速席卷全网，对话、问答、写作等样样精通，甚至连机器学习领域的知名学术会议ICML都专门制定政策，以禁止在投稿论文中包含从ChatGPT等大型语言模型生成的文本。
二是AI技术继续为其他学科领域的研究助力。例如：DeepMind的AlphaFold完成了对100万个物种体内约2.2亿个蛋白质的结构预测，Meta的ESMFold只用了2周时间预测了约6.17亿个蛋白质的结构，虽然准确度不如AlphaFold，但预测速度快了60倍；DeepMind的AlphaTensor可以自动搜索发现更高效的矩阵乘法算法等。
伴随着新算法模型的不断出现，AI技术向上为前沿科学研究提供支撑助力，向下更深入渗透到社会生活的方方面面，处理文字、图像、视频、语音等各种信息载体的能力不断提升，一个完全由AI驱动的“人造人”似乎距离我们越来越近。
AI安全新实践赋能网络安全新发展
AI技术的持续发展也推动着它与安全的更多碰撞融合，主要包含“AI赋能网络安全与AI自身安全”两大方面。
在AI赋能网络安全方面，其发展依旧呈现出稳步向落地推进的总体趋势。以下是两个较为详细且较新的典型案例，同时对启明星辰所开展的类似实践工作进行简要说明。
LiveAction的加密分析（Cryptanalysis）技术：LiveAction将加密分析技术分为三个层次——流量分析（IP地址、端口、协议、时间戳等维度）、证书分析（加密套件、TLS指纹等维度）与深度报文动态特征分析（包长度序列及时间序列等维度）。通过对三个层次的组合应用，实现更精确的加密流量检测。
针对此技术，启明星辰积极开展了相关研究，围绕采用加密的DNS隧道、HTTP隧道及HTTPS隧道通信的攻击流量，设计出高效的AI检测技术，并在NFT及TAR等产品中实现落地应用。
Ionate的AIOps与AISecurity平台：Ionate为AI赋能网络安全设计一套解决方案，部署的AIOps与AISecurity平台，能够应对处理多样化的、低质的及不完整的数据集，对数据进行规范化处理，通过灵活配置算法训练异常检测模型，并在模型启用后监测表现以实现自适应调整。
启明星辰自主研发的人工智能安全建模和赋能平台，正是将AIOps自动化运营的能力加持到AI安全建模的全过程中，全面提升数据获取、数据处理、算法配置、模型训练、模型部署等步骤的效率，让AI检测分析模型更加触手可及。
在AI自身安全方面，针对AI算法模型的攻击一直是学术研究的热点之一，存在数据投毒、对抗样本、成员推断、模型萃取等多种攻击方式，对AI应用带来严重威胁。Gartner发布的2023十大战略技术趋势中将AI信任、风险及安全管理（AI TRiSM）列入其中，反映出业界对此的关注与重视。
启明星辰积极投入到AI自身安全方面的相关工作中，包括参加AI计算平台安全框架标准的制定工作及一些相关研究课题等，上文所述的AI安全建模和赋能平台中也将融入相应功能，对构建的模型提供防护。
AI与网络安全将更加深入交融
随着AI技术的持续快速发展以及网络安全新场景的不断增加，可以预见AI与网络安全之间在未来将有更深入的交叉融合，具体包含以下三大方面。
1、面对AI技术新进展，机遇与风险并存
新技术表面上看似与网络安全领域没有直接关系，却存在很大的潜在关联。一方面，新技术可以进一步助力现有的网络安全应用并促进形成新应用。例如，自然语言理解技术的持续发展将助力高质量威胁情报的自动提取，同时促进类似于智能客服系统的安全运营智能助手等新应用的诞生；另一方面，这些技术也可能被恶意利用，从而产生新的安全威胁，比如生成式AI技术可以被用于生成更加逼真的虚假图像或钓鱼邮件，甚至可被用于自动生成恶意软件的代码等等。因此，AI技术的新进展既是扩展与提升网络安全应用的新机遇，同时也伴随着一些新的安全风险与威胁需要应对。
2、AI模型部署后的性能监控与自适应更新将获得更多关注
AI赋能网络安全的一类重要应用是通过构建各类AI模型，实现对威胁分析检测的支持，而网络安全威胁是持续发展演变的，新的恶意代码与新的攻击手段不断出现，基于历史数据、样本所构建的模型不可能长期有效。这就需要对已部署的模型进行监控，并在发现性能下降后能够执行自动更新而无需过多的人力投入。实际上所有AI模型应用都会面临类似问题，在Gartner发布的2022年和2023年战略技术趋势报告中，AI工程与自适应AI分别被列入，也体现出业界对这一问题的关注。因此，在网络安全领域，随着越来越多的AI模型实现落地部署，模型性能的监控与自适应更新技术也势必将受到更多关注。
3、AI助力网络安全研究未来可期
在上文提及AlphaFold、AlphaTensor等AI助力其他学科领域研究工作的案例，相关工作仍在不断优化与扩展，可以预期AI技术在未来将会助力更多科学研究工作。网络安全学科领域同样也是潜在的被助力对象。从广义上来说，现有的AI赋能网络安全技术研究也是一种助力形式，主要是利用AI技术来提升一些网络安全问题的解决能力与效果，比如提升威胁分析检测能力、漏洞自动挖掘能力等；从长远的视角来看，网络安全领域一些更深层、更基础的问题也将会得到AI助力，比如网络攻防策略、密码/协议/系统安全性分析等。
目前，人工智能技术在高速发展过程中，其安全也面临诸多挑战。启明星辰将会继续坚持技术创新驱动引领发展，在人工智能安全等前沿技术领域不断开拓前行，稳步提升与“护航数字中国，领航信息安全”这一使命愿景相匹配的安全能力，进一步助力我国网络安全的高质量发展。
京公网安备11010802024551号