启明星辰CEO严望佳:人工智能需要安全,安全也需要人工智能

发布时间 2018-05-16

充满人工智能的科技生活会是什么样?
 
由史蒂文·斯皮尔伯格执导,在两个月前上映的电影《头号玩家》为我们预见未来科技打开了眼界。

 
但今天,除了天马行空的畅想,还是要回到当下看人工智能应用情况以及其带来的信息安全问题。

 
5月16日,第二届世界智能大会拉开帷幕,启明星辰CEO严望佳在智能科技与网络安全论坛中以《双刃之剑:信息安全与人工智能》为主题演讲。
 



前些年可在人机对话中自我学习的人工智能软件“微软小冰”被玩坏,停止服务;这两年大火的特斯拉汽车的自动驾驶技术,在一次次安全事故中降温。

 

“人工智能将引发安全挑战。面对即将到来的智能时代,我们在安全方面尚未做好准备。”

 
首先,AI运算结果是由数据、算法、算力这“三要素”相加所得的结果,但现在“三要素”本身存在缺失,会导致最终运算结果的判断失误。

 
其次,非法的黑客攻击大幅上升。利用算法缺陷使系统产生误判,可攻击算法,通过远程下发恶意指令,可攻击设备。

 
还有隐私的泄露,越来越多的智能化服务依赖用户画像,用户面临隐私泄露风险,企业面临合规性挑战。

 
以及对技术的恶意使用。人工智能本身是中性的技术,可以造福人类,也存在被恶意使用、危害人类的风险。

 

“人工智能与安全是相互促进的关系,两者协同配合才能构建和谐智能+安全生态。”

 
安全促进人工智能的发展。数据方面,增加数据防泄密、敏感数据保护;算法方面,提出逃逸对抗和提升鲁棒性;应用层面,建立安全隔离和白名单机制;AI软件,漏洞挖掘与修复。

 
人工智能促进安全的发展。人工智能逐渐成为安全的共性基础技术之一,将人工智能技术放到安全产品、服务与解决方案中,将大大提升安全分析的能力和效率。
 
“启明星辰自成立起,经历了不同阶段的跨越式自我升华,去年开始,我们迈入三个I阶段,其中一个就是安全的智能(Intelligence)”
 
—I³阶段—
安全独立运营(Independency)
安全的互联(Interconnect)
安全的智能(Intelligence)
 
启明星辰集团已将人工智能检测技术、人工智能大数据分析技术等技术不断应用到产品和解决方案中,已获得大量的应用案例、经验和集团客户的一致好评。
 
从现在到未来,集团会持续发挥“安全能量”,直面智能时代的网络安全挑战,让人工智能技术更加安全,让应用人工智能技术的安全产品更高效,为国家、为客户全面提升安全能力。