快手容器云编排调度引擎团队负责人,重点负责快手内部容器集群的资源调度、应用编排以及在离线混部机制的建设,支撑公司内部各类业务的云原生化,并持续提升容器计算资源的资源利用效率。

快手容器云编排调度引擎团队负责人,重点负责快手内部容器集群的资源调度、应用编排以及在离线混部机制的建设,支撑公司内部各类业务的云原生化,并持续提升容器计算资源的资源利用效率。
随着 AI 技术的不断进步,GPU 资源被越来越广泛的应用在各类业务场景中。在快手,我们使用超大规模的 GPU 卡去支持各种内部业务的算力需求。受制于 GPU 的高成本,大规模管理 GPU 资源并持续提升其效率就成为了关键挑战。快手容器云平台建设了 GPU 虚拟化、GPU 在离线混部和 GPU 潮汐混部等多种平台机制,并结合系列资源运营能力,最终实现了 GPU 日均的显著提升。
演讲提纲:
1. 业务背景与趋势
2. GPU 虚拟化与在离线混部体系介绍
3. GPU 潮汐混部落地实践分享
4. 持续演进方向与展望
你将获得:



微信咨询

电话咨询
领取往期热门演讲视频

