系统设计之成本优化

会议室:百宴厅3
出品人:段雪涛

在合理的成本控制前提下,如何通过优化架构设计来提升算力和效果空间、减少成本支出,... 展开 >

专题出品人:段雪涛

百度主任研发架构师

段雪涛,百度主任研发架构师,百度推荐系统召回架构技术负责人,主要负责百度 Feed 索引、召回、用户数据架构,以及成本和效能优化。加入百度前,曾就职于微软亚洲研究院、盛大创新院,在搜索引擎、爬虫、推荐系统等领域有十余年的探索和工业实践,对大规模在线系统的资源效能平衡架构设计有着丰富的实战经验。 

地点:百宴厅3

专题:系统设计之成本优化

在合理的成本控制前提下,如何通过优化架构设计来提升算力和效果空间、减少成本支出,一直是架构演进的核心驱动力。比如,随着虚拟化技术的发展,业务系统可以通过弹性架构设计,利用流量的潮汐现象将非高峰期的弹性冗余算力(通常是廉价算力)组织起来,运行更复杂的策略,拿到更好的效果。再如,随着新硬件的发展,使得我们有能力利用异构硬件在不同场景下的性能、成本优势,替代传统的运算模式,通过异构混合计算架构提升计算性能、减少成本支出。此外,我们还关注通过架构优化使业务能以低成本落地复杂算法和模型,达到业务效果和成本支出的平衡的实践。通过实战分享,我们将探讨更高效的架构设计思路,希望给予大家新的启发。

by 张扬

字节跳动
应用研究中心负责人

2020年 NVIDIA 收购 Mellanox 后把 Bluefield2 改名为 DPU,DPU 这个市场就开始变得非常的火。但是 DPU 其实不是一个新的东西,这个概念最早由 Fungible 这个公司于 2015 年提出,早年更多的把 DPU 这样的设备称为 SmartNic 智能网卡,比如博通的 stingray,Mellanox 的 bluefield,cavium 的 liquidio 都属于现在我们说的 DPU 范畴。本人从 2015 年开始接触智能网卡,深度参与过阿里的 MoC 卡的研发,也见证了 AWS 的 Nitro 的发展。作为这个领域的深度玩家,在今天 DPU/IPU 概念大行其道的同时,将结合字节的实践给大家介绍 DPU 产生的历史必然性、主流的架构以及未来的走向。

by 杨歌

百度
资深研发工程师

随着自然语言处理、计算机视觉等领域内的深度学习模型在百度搜索的大规模在线应用,以 GPU、昆仑芯片为代表的异构算力日渐起到了举足轻重的作用,也带来了巨大的运维及开发成本。如何在百度搜索超大流量场景下迭代模型提升效果的同时,尽可能的控制及优化成本成为一项日益严峻的挑战。本次分享将主要从架构工程视角,介绍大搜索异构在线深度学习模型架构,以及围绕着模型的在线应用的多项优化工作。

演讲提纲:

1. 大搜索深度学习模型业务及架构演进概述

2. 无瑕——架构无损优化实践

3. 天工——离线压缩优化实践

4. 架构向模型优化的展望与思考

您将获得:

  • 深度学习模型在百度搜索的应用现状
  • 模型预估优化的方法及实践

by 张世航

快手
KGraph 作者

随着数据规模的膨胀与推荐算法复杂度的提升,传统数据库处理多度查询能力不足的问题越来越明显,图数据库的优势得到显现。在平均出度 300 的社交图谱上,一次三度查询会访问近 3000 万条边,即使聚合优化后,也需要发起近 10 万次基础查询。为应对海量的数据和查询,我们基于 PMem 构建了高性能的单机存储引擎,并基于自研网络框架 KRPC 构建了分布式网络服务,实现了单机 2000 万 QPS,单集群十亿次每秒查询处理能力的分布式图服务。

本次分享将介绍我们在构建高性能分布式图存储服务过程中,怎样通过极致的单机性能来降低成本支出的。

演讲提纲:

1. 数据模型和查询语言

2. KGraph 的架构和实现

3. PMem 存储引擎与高性能通讯框架 KRPC

4. 关键问题分析

你将获得:

  • 从实践角度感受分布式图服务中的方案设计
  • 学习大型分布式系统中一些通用的问题解决思路
     

by 赵庆杰(卢令)

阿里巴巴
高级技术专家

对于 Serverless 大家已经不再陌生, Serverless 作为新时代的应用的核心架构思想已经被大家认可。 但是对于业务系统的架构要演进,需要非常强的动力,特别是核心的在线业务。例如微服务化架构演进的动力就是解决大规模研发团队的协同研发以及单体应用系统的水平伸缩,然而业务系统演进为 Serverless 架构的动力是什么?这不仅仅是云资源弹性,按需付费降低成本,而是如何帮助业务,最小化关注基础技术,最大化关注业务逻辑。本次分享将会和大家分享,阿里巴巴在向 Serverless 架构转型中,如何做到整体提效 40% 的技术路径和经验,以及我们的最佳落地案例。

演讲提纲:

1. 核心应用落地 Serverless 的困境:革新者与决策者的较量:“胆大?心真大?” 革新者,一直被决策者挑战,如何打破不信任?

  • 是银弹,还是"绣花枕头":与传统的微服务研发模式的差异是什么?
  • 满屏尽是“冷启动”:性能波动对业务的影响,中间件如何打通?业务平台如何打通?
  • 成本节省多少:成本管控 与 Serverless 的冲突
  • 稳定性!稳定性!!:异地多活带来的复杂性

2. 核心应用的最佳实践方案

  • 全新低运维研发平台
  • Serverless 可观测性
  • Serverless 核心能力增强
  • 稳定性挑战
  • 规模化最佳案例:推荐场景应用:百万级QPS规模

3. 未来展望

  • 新一代的容器方案:更轻量,更安全
  • Serverless anywhere:连接一切
  • 低代码平台的坚实底座

你将获得:

  • 了解基于云原生实践应用架构演进的路径和收益
  • 了解新老架构落地过程中的常见问题和解决办法
  • 了解阿里内部业务场景中实践弹性计算的经验

交通指南

上海宝华万豪酒店

Shanghai Marriott Hotel Parkview
地址:上海市静安区广中西路 333 号
  • 微信咨询

  • 电话咨询

    联系电话:+86 18514549229

微信联系我们

小姐姐 小倩