在合理的成本控制前提下,如何通过优化架构设计来提升算力和效果空间、减少成本支出,... 展开 >





段雪涛,百度主任研发架构师,百度推荐系统召回架构技术负责人,主要负责百度 Feed 索引、召回、用户数据架构,以及成本和效能优化。加入百度前,曾就职于微软亚洲研究院、盛大创新院,在搜索引擎、爬虫、推荐系统等领域有十余年的探索和工业实践,对大规模在线系统的资源效能平衡架构设计有着丰富的实战经验。
在合理的成本控制前提下,如何通过优化架构设计来提升算力和效果空间、减少成本支出,一直是架构演进的核心驱动力。比如,随着虚拟化技术的发展,业务系统可以通过弹性架构设计,利用流量的潮汐现象将非高峰期的弹性冗余算力(通常是廉价算力)组织起来,运行更复杂的策略,拿到更好的效果。再如,随着新硬件的发展,使得我们有能力利用异构硬件在不同场景下的性能、成本优势,替代传统的运算模式,通过异构混合计算架构提升计算性能、减少成本支出。此外,我们还关注通过架构优化使业务能以低成本落地复杂算法和模型,达到业务效果和成本支出的平衡的实践。通过实战分享,我们将探讨更高效的架构设计思路,希望给予大家新的启发。
2020年 NVIDIA 收购 Mellanox 后把 Bluefield2 改名为 DPU,DPU 这个市场就开始变得非常的火。但是 DPU 其实不是一个新的东西,这个概念最早由 Fungible 这个公司于 2015 年提出,早年更多的把 DPU 这样的设备称为 SmartNic 智能网卡,比如博通的 stingray,Mellanox 的 bluefield,cavium 的 liquidio 都属于现在我们说的 DPU 范畴。本人从 2015 年开始接触智能网卡,深度参与过阿里的 MoC 卡的研发,也见证了 AWS 的 Nitro 的发展。作为这个领域的深度玩家,在今天 DPU/IPU 概念大行其道的同时,将结合字节的实践给大家介绍 DPU 产生的历史必然性、主流的架构以及未来的走向。
随着自然语言处理、计算机视觉等领域内的深度学习模型在百度搜索的大规模在线应用,以 GPU、昆仑芯片为代表的异构算力日渐起到了举足轻重的作用,也带来了巨大的运维及开发成本。如何在百度搜索超大流量场景下迭代模型提升效果的同时,尽可能的控制及优化成本成为一项日益严峻的挑战。本次分享将主要从架构工程视角,介绍大搜索异构在线深度学习模型架构,以及围绕着模型的在线应用的多项优化工作。
演讲提纲:
1. 大搜索深度学习模型业务及架构演进概述
2. 无瑕——架构无损优化实践
3. 天工——离线压缩优化实践
4. 架构向模型优化的展望与思考
您将获得:
随着数据规模的膨胀与推荐算法复杂度的提升,传统数据库处理多度查询能力不足的问题越来越明显,图数据库的优势得到显现。在平均出度 300 的社交图谱上,一次三度查询会访问近 3000 万条边,即使聚合优化后,也需要发起近 10 万次基础查询。为应对海量的数据和查询,我们基于 PMem 构建了高性能的单机存储引擎,并基于自研网络框架 KRPC 构建了分布式网络服务,实现了单机 2000 万 QPS,单集群十亿次每秒查询处理能力的分布式图服务。
本次分享将介绍我们在构建高性能分布式图存储服务过程中,怎样通过极致的单机性能来降低成本支出的。
演讲提纲:
1. 数据模型和查询语言
2. KGraph 的架构和实现
3. PMem 存储引擎与高性能通讯框架 KRPC
4. 关键问题分析
你将获得:
对于 Serverless 大家已经不再陌生, Serverless 作为新时代的应用的核心架构思想已经被大家认可。 但是对于业务系统的架构要演进,需要非常强的动力,特别是核心的在线业务。例如微服务化架构演进的动力就是解决大规模研发团队的协同研发以及单体应用系统的水平伸缩,然而业务系统演进为 Serverless 架构的动力是什么?这不仅仅是云资源弹性,按需付费降低成本,而是如何帮助业务,最小化关注基础技术,最大化关注业务逻辑。本次分享将会和大家分享,阿里巴巴在向 Serverless 架构转型中,如何做到整体提效 40% 的技术路径和经验,以及我们的最佳落地案例。
演讲提纲:
1. 核心应用落地 Serverless 的困境:革新者与决策者的较量:“胆大?心真大?” 革新者,一直被决策者挑战,如何打破不信任?
2. 核心应用的最佳实践方案
3. 未来展望
你将获得:



微信咨询

电话咨询
微信联系我们

