AI 工程与 MLOps

会议室:白云宴会厅2
出品人:徐振中

未能投入生产的模型无法为企业或组织创造价值,作为 AI 工程中极其重要的组成,M... 展开 >

专题出品人:徐振中

Claypot AI联合创始人

Z is currently building a startup with Chip Huyen to make ML real-time. Previously, he led the real-time data infrastructure team at Netflix. His team built trillion-scale real-time data products such as Keystone, Stream Processing as a Service, Mantis, and Data Mesh. 

Z 目前正在与 Chip Huyen 建立一家初创公司,以实现 ML 的实时性。此前,他曾领导 Netflix 的实时数据基础架构团队。他的团队构建了 Keystone、流处理即服务、Mantis 和 Data Mesh 等万亿级实时数据产品。

地点:白云宴会厅2

专题:AI 工程与 MLOps

未能投入生产的模型无法为企业或组织创造价值,作为 AI 工程中极其重要的组成,MLOps 的出现正是为了减少这种无用功。其提出了众多解决方案、最佳实践和工具,来帮助算法模型切实落地到业务实践中。

by Chip Huyen

斯坦福大学
计算机科学家 & Claypot AI 联合创始人

by 徐振中

Claypot AI
联合创始人

by 吴忠远

eBay
AI 平台架构师

人工智能被越来越多地应用到 eBay 各个业务中,加速企业数字资产在其商业化中的价值。在整个人工智能应用开发的生命周期中,特征工程是最重要的环节之一。eBay 打造了新一代特征工程,实现了端到端的打通,以及线上线下一致性在平台层保证。

本演讲将首先总结当下机器学习场景给特征工程带来的挑战,以及一个完善的机器学习特征工程管理平台需要的基本功能,并在此基础上介绍特征工程管理在 eBay 的实践。

通过此分享,你将学习到基于元数据和配置驱动的特征生命周期管理,如何帮助用户快速发现和重用特征,如何快速开发和上线新的特征,做好全生命周期管理,减少机器学习模型 TTM。

演讲提纲:

1. 当前机器学习給特征工程带来的挑战

  • 数据科学家视角的特征工程痛点以及带来的挑战

2. eBay 新一代特征工程平台架构概述

  • eBay 新一代特征平台架构
  • 特征平台的核心功能

3. 基于统一元数据和配置驱动架构特征工程管理平台

  • 整体架构
  • 数据模型
  • 数据源上线和管理
  • 特征生命周期管理
  • 特征目录服务
  • 配置及其自动化

你将获得:

  • 将会看到 eBay 在新一代特征工程上一些最新的成果
  • 认识一套全新的方法来实现轻量级的特征生命周期管理,帮助用户加速模型落地的 TTM

by 孟宾宾

深信服
工程技术部 AI 平台研发负责人

深信服从 2018 年开始在恶意文件样本检测与家族分析、Web 智能攻防、AISecOps、AIOps、边缘 AI 计算场景的烟火检测、安全帽检测、光电板智能缺陷检测等安全和云计算核心业务应用 AI 算法。而随着接入业务规模的不断扩大,AI 数据、计算规模也随之上升,AI 开发人员逐渐面临在跨异构数据系统中获取数据困难、算力利用率低、算法开发门槛高、开发效率低、业务效果不稳定等困难和挑战。所以我们急需一整套开发平台来满足解决这些问题。

本次演讲将为大家分享深信服 AI 平台团队结合企业多年 AI 研发实战经验,围绕 AI 开发全流程的基础设施,构建了整合 DataOps、ModelOps 和 ServeringOps 的 MLOps 一站式机器学习平台,旨在为 AI 研发降低数据获取难度、提升算力利用率、降低开发门槛,提高研发效率和效果。

演讲提纲:

1.背景介绍

  • 深信服 AI 应用场景
  • AI 研发挑战:数据、算力、算法

2.基于 MLOps 的机器学习平台

  • 异构研发数据分层存储与元数据
  • AI 任务流水线可视化和自动化机器学习
  • 大数据任务和 AI 算法训练任务的统一调度与管理

3. AI研发实践效果

  • AI 研发数据找、用、存的效率优化
  • 数据分析与 AI 训练任务统一调度管理优化
  • 无代码/低代码即可上手 AI 算法开发

4. 总结与展望

你将获得:

  • 了解全生命周期的 AI 研发流程
  • 了解深信服 AI 业务场景和研发过程中面临的问题挑战
  • 了解深信服如何构建机器学习平台和构建过程中遇到的难题和如何解决的
  • 了解深信服机器学习平台为 AI 研发带来的有益效果

by 蔡明星

华为
AI 中台技术总监

机器学习技术在华为终端云各业务场景中有着广泛的应用,如华为视频推荐、浏览器信息流、应用市场推荐和华为广告系统等,基本涵盖了推荐、搜索、广告、CV 和 NLP 等多个技术领域。为解决机器学习下的持续交付面临的模型更新快、效果反馈慢、流程难管控和全流程协同等方面的挑战,华为终端云从 2017 年开始构建端到端的 AI 平台,以支撑华为终端各业务更快地交付机器学习模型。本次演讲将为大家分享华为 WiseMLOps 团队多年的研发实战经验,根据业务 AI 场景特点,结合业界 MLOps、终端云 DevOps 流程和 DataOps 流程,打通研发、探索和生产 3 套环境之间的 CI/CD 流水线和工具链,支持业务 AI 模型开发到上线运行的全流程闭环,支撑数据、代码和模型的可信高效交付,提升了端到端的 AI 研发及应用效率。

演讲提纲:

1. 背景介绍

  • 华为终端 AI 应用场景
  • AI 模型交付面临的挑战:模型、代码、数据

2. 华为 WiseMLOps 平台

  • MLOps 流程实例化
  • WiseMLOps 平台能力:架构、Pipeline、可视化、可追溯、版本化等
  • 调度与治理:资源调度、模型治理
  • 超大模型分布式:分布式训练、分布式推理
  • AI 资产市场:特征 Store、算法 Store、模型 Store

3. 业务实践效果

  • 当前平台承载业务状况
  • 业务 AI 研发端到端效率提升
  • 业务 AI 研发训练和推理性能提升
  • 资产共享复用

4. 总结与展望

你将获得:

  • 了解 AI 全生命周期的持续交付流程
  • 了解华为终端云业务 AI 场景研发过程面临的挑战
  • 了解华为 WiseMLOps 平台构建历程中遇到的难题及解决方法
  • 了解华为 WiseMLOps 平台为业务 AI 场景研发带来的有效效果

交通指南

广州万富希尔顿酒店

Hilton Guangzhou Baiyun
地址:广州市白云区云城东路515-517号
  • 微信咨询

  • 电话咨询

    联系电话:+86 15600537884

领取往期热门演讲视频

领取往期热门演讲视频二维码
票务经理