专题演讲嘉宾：李友科

在电商业务场景中，无论是提升用户转化率，还是帮助商家精细化运营，或是培育良性发展的生态系统，机器学习技术，特别是模型和特征的质量起着决定性的作用。而且，随着电商竞争的加剧，算法迭代效率也是出奇制胜的关键因素。为了实现持续快捷交付高质量的推理服务和高可用、极致弹性和韧性服务运行这两大目标，京东自 2019 年 12 月开始规划建设 MLOps 平台。最开始，该平台是为了解决上百个推理服务的模型推送和日常管理的问题，经过 2 年的发展，平台已经具备一站式开发、模型质量保障、快速部署接入、模型监控、生命周期管理、容量管理等功能。目前，我们还正在探索模型血缘管理、特征治理等。

它带来了许多实际的业务价值：

• 一站式管理近千个推理服务，管理的机器规模峰值超过十万核
• 模型交付效率提升20%
• 服务高可用以及服务MTTR提升
• 计算力、特征、外部资源的高效使用
• 灵活高效应对大促峰值

演讲提纲：

1. 推理服务化与 Aaas（Algorithm as a Service）

2. 模型开发生命周期

3. Aaas 升级 MLOps

4. MLOps 带来的变革

• 一站式开发模式
• 质量把控从 0 到 1
• 生命周期管理
• 推理服务高可用
• 效率与资源
• 模型血缘管理

5. 新挑战：技术融合与迭代效率持续提升

你将获得：

• 了解电商搜推场景下机器学习的一些的技术和成果
• 开拓一些新思路，用新方法如何解决模型开发效率问题
• 目前领域相关的挑战，以及未来的展望