机器学习、AI平台架构实战

会议室:百宴厅4
出品人:臧秀涛

机器学习和AI相关技术应用越来越广,而这背后都离开不架构的支持。架构应该如何应对... 展开 >

专题出品人:臧秀涛

InfoQ QCon大会主编

臧秀涛,现就职于InfoQ,任QCon大会主编,负责QCon大会的策划和组织。2010年毕业于中国科学院计算技术研究所。曾先后在完美世界等公司从事软件开发工作。2014年加入InfoQ。业余喜爱读书和翻译,曾翻译出版过《C++ API设计》、《Groovy程序设计》和《Java性能权威指南》等技术图书。业余也维护了一个微信公众号“开发资讯(dev-news)”,欢迎关注。

对QCon大会有任何建议或想法,欢迎通过微博 @臧秀涛 与我联系。

地点:百宴厅4

专题:机器学习、AI平台架构实战

机器学习和AI相关技术应用越来越广,而这背后都离开不架构的支持。架构应该如何应对AI和机器学习的特殊需求,如何针对不同计算资源做优化?本专题将通过几个典型案例,分享机器学习和AI平台的架构经验与挑战。

by 周大江

蚂蚁金服
多媒体产品技术部高级算法专家
端侧AI及其在蚂蚁金服场景的落地
所属领域: 深度学习、 机器学习、 AI

以深度学习为代表的AI技术已经在图像、语音、自然语言等领域得到了广泛的应用。部署在移动终端本地的AI算法在实时性、隐私性和成本方面都相对云侧AI有着天然的优势,在很多场景下,在端到端精度上也能形成优势。然而,受制于终端有限的资源,端侧AI在算力和存储空间上都面临着技术挑战。对于包括支付宝在内的超级App来说,由于极广的用户覆盖和业务场景,这些挑战被进一步放大,同时也对研发效率提出了更高的要求。在我们看来,极致的端侧AI能力来自于算法与工程实现的深度整合。本讲将重点分享以下几个方面:

1. 算法层,深度学习模型压缩与加速技术,包括权重稀疏化与离散化、通道剪裁、卷积分组、网络结构搜索等。

2. 实现层,深度学习预测引擎的优化,包括缓存优化、多线程调度,整型计算、异构计算等。

3. 蚂蚁金服为端侧AI业务的快速落地建设的研发支撑体系,以及业务案例。

by 张军

PayPal
风控高级研发经理
PayPal高可用在线AI计算平台
所属领域: 机器学习、 AI

PayPal高可用AI 计算平台(Unified AI Compute Platform)主要用于服务PayPal 在线海量实时AI模型和特征数据计算。该平台的主要服务于金融在线支付和支付风控场景,最大的挑战在于如何在有限的交易时延保障的同时确保平台服务的高可用和高吞吐。本主题首先从介绍平台的系统架构和技术体系开始;进而详细介绍平台如何灵活高效的支持各种复杂特征计算、传统与深度模型计算,如何做到特征模型的热部署等;此外,对于深度学习模型在线计算的应用以及平台的系统调优也会有重点篇幅介绍。

内容大纲

  • AI计算平台系统架构和技术体系
  • 统一高效的特征计算、模型计算平台以及特征模型的热部署
  • 性能调优方面的最佳实践
  • 深度学习模型的应用和挑战

by 周海维

爱奇艺
机器学习平台架构师
爱奇艺深度学习云平台的实践及优化
所属领域: 深度学习、 机器学习

深度学习技术应用在图像识别等问题上取得很好的结果,在实际业务中得到广泛应用。如何应对快速多变的上游技术更新,提供稳定可靠的维护简单的标准服务,这对深度学习平台提出了新的要求和挑战。本次分享将介绍爱奇艺深度学习容器云平台演进和运维时,遇到的问题和应对方案。

主要内容

  1. 计算框架变化多样,如何快速满足业务需求,提供标准化服务;
  2. GPU利用率提升遇到瓶颈,如何有效使用资源;
  3. 算法同事和工程同事知识背景差异太大,如何有效沟通合作。

by 翟艺涛

美团点评
高级技术专家

本次分享将介绍深度学习在美团酒店搜索排序的实际应用,包含三部分内容:

  1. 酒店搜索的特点:在线酒店预订作为一种O2O服务自带LBS属性,酒店搜索也和传统搜索有很大不同,我们会介绍下美团酒店搜索排序的特点;
  2. 深度语义模型:语义理解是搜索至关重要的一环,而在酒店搜索中用户输入的查询词主要是短文本,这更提高了我们理解用户意图的难度;我们将介绍酒店搜索如何理解用户的查询意图,以及深度语义模型在其中的作用;
  3. 深度排序模型:美团酒店有海量商家和用户,为深度学习的应用提供了必要条件,我们将介绍深度排序模型在酒店排序的应用。

听众受益

  1. 了解酒店搜索的特点;
  2. 深度语义模型在酒店搜索的应用;
  3. 深度排序模型在酒店排序的应用。

by 邓锦添

阿里巴巴
技术专家
视频AI在安全业务中的架构实践
所属领域: 机器学习、 AI

随着整个互联网泛内容化,简单的图文描述已经难以满足用户的需求。 在这种趋势下,各大电商平台都增加视频作为业务载体,各种短视频app/平台也层出不穷。 由于制作门槛比较低,视频内容本身可能蕴含着巨大的法律法规风险,比如色情、版权、暴力和政治等。 虽然视频分析在学术界已经有多年的研究,但距离工业级应用还是有不少的差距。 在这个议题中,我会介绍在阿里巴巴这种量级下,我们的视频AI防控系统alphavideo, 它具有成本可控、高可用和扩展性强等特点,不仅为业务提供准实时的视频过滤,还提供了在海量存量 视频中的检索。 


听众受益

1. 可以了解到视频防控的业务背景以及遇到的技术挑战

2. 可以了解大规模视频处理架构及实践经验 

交通指南

© 2019 Baidu - GS(2018)5572号 - 甲测资字1100930 - 京ICP证030173号 - Data © 长地万方
想要批量报名或更多优惠?
立即联系票务小姐姐 Ring
或致电:17310043226