人工智能与安全

会议室:201AB
出品人:武广柱

深度学习、对抗生成、强化学习等前沿技术推动了新一轮的人工智能浪潮。AI正成为社会... 展开 >

专题出品人:武广柱

百度 安全事业部首席架构师

武广柱博士2012年进入百度,曾担任百度软件研究院总架构师,负责百度杀毒、百度卫士等产品的总架构设计。2016年起,担任百度安全事业部首席架构师,负责百度商业安全产品架构及发展战略规划等工作。武广柱具有10年以上的研发经验,在跨平台开发和移动开发方面具有丰富的经验和多项专利。

地点:201AB

专题:人工智能与安全

深度学习、对抗生成、强化学习等前沿技术推动了新一轮的人工智能浪潮。AI正成为社会发展的强大动力,受到学术界、工业界乃至全社会的广泛关注。随着AI技术的落地应用,网络空间和现实物理世界的链接也将更加紧密。网路空间的安全问题将会愈加严重的影响物理世界。一方面AI技术被利用在攻防对抗,另一方面AI本身也存在攻防对抗。

AI正被安全从业者利用,从基于DNN的病毒识别引擎,到基于机器学习和大数据的纵深防御,甚至出现了基于AI技术的自动攻防。而与此同时,黑产也在利用AI来获取更多的利益。此为AI用于攻防对抗。

AI系统本身也存在威胁,这些威胁不但来自于传统的系统安全攻击,还来自于围绕机器学习模型的安全对抗,以及产业链上关于安全和隐私的法规要求和利益冲突。AI系统的防护不但需要做好硬件、软件、协议的具体实现或系统安全策略,还需要加强模型对异常数据特别是精心设计的恶意数据的鲁棒性,也需要关注对模型参数、敏感数据的保护。此为AI系统本身的攻防对抗。

本议题将结合目前工业界和学术界的前沿进展,从理论和实践角度透视AI时代的攻与防。

by 丁羽

百度(美国研发中心)
安全实验室研究员

越来越多的机器学习的训练和预测运算在公有云平台或者手机、IoT设备上进行。这些机器学习模型的输入数据和模型参数经常具有相当高的价值,容易成为攻击者的目标。但是这些计算平台对于数据保护可能存在瑕疵,使得攻击者可以偷取到模型的输入输出和模型参数。因此,如何保护机器学习模型是一个亟待解决的问题。本演讲关注于在机器学习中结合Intel SGX可信计算技术,构造可信、安全的机器学习平台。

by 李闯

中国金融认证中心
机器学习实验室高级研究员

人工智能+金融科技是当下科技热点中的热点,利用人工智能来炒股、智能理财、自动识别贷款风险、无人银行?这些看起来就很高端大气上档次的议题本次全不涉及,抛开资本市场的高涨情绪和媒体的种种夸张宣传,作为金融领域的传统服务提供商,我们怎么使用人工智能技术为金融客户提供更优质的产品和服务?

多年来为银行等金融客户提供服务的经验让我们对人工智能(机器学习)技术的应用有一些自己的体会,哪些金融系统和机器学习技术结合更容易出成果?部署深度学习模型需不需要上显卡?投产后的模型要不要继续在线学习?模型的可解释性对业务的影响?这些具体的技术问题是我们今天的主要交流内容。

by 吴雷

长亭科技
高级研发工程师

随着技术的发展,移动支付、线上交易等应用正逐渐改变互联网生态,与此同时,黑客攻击技术也从未停止探索。75%黑客攻击集中的应用层,WAF产品是其最核心的防护工具。

本次议题将核心探讨:如何引入前沿技术提升安全防护水平?人工智能技术的应用方法和实现路径如何规划?引入人工智能技术后的NGWAF(Next Generation Web Application Firewall)有了哪些极致的性能提升?分享将从攻击日志分析入手,利用人工智能方法提取隐藏在日志中的关键信息,以误报分析作为切入点,构建动态检测模型。

听众受益

  1. 人工智能技术在应用层防护的现状和趋势;
  2. 基于攻击日志误报发现新的思路;
  3. 利用人工智能技术赋能NGWAF的构建方法。

by 苏志刚

京东安全
硅谷研究中心负责人

AI大数据时代京东和其它电子商务平台面对的新风险和新问题:如何用AI技术和系统化的安全方式来对抗内外部威胁,成为当今京东安全研究人员所面临的一个重要问题。 主要分析AI大数据时代安全与传统安全的不同,以及目前基于电子商务平台以AI的攻防对抗。

by 高磊

百度
资深研发工程师

主要内容

  1. 介绍对抗样本及其生成算法、防护方法、存因解释与最新研究方向; 
  2. 讨论对FaceNet的白盒攻击与百度人脸比对服务的黑盒攻击实践。 

听众受益

  1. 了解机器学习的安全性问题;
  2. 理解针对机器学习模型攻击实例;
  3. 探讨如何保护机器学习模型。

交通指南

© 2019 Baidu - GS(2018)5572号 - 甲测资字1100930 - 京ICP证030173号 - Data © 长地万方