飞桨轻量化推理引擎 Paddle Lite 的实现和应用

所属专题:百度深度学习技术解读与应用

嘉宾 : 严春伟 | 百度深度学习技术平台部/资深工程师

会议室 : 2号厅C

讲师介绍

专题演讲嘉宾:严春伟

百度深度学习技术平台部/资深工程师

PaddlePaddle 推理部署方向技术负责人,2015年加入百度,近四年专注于深度学习平台架构领域,先后从0到1主导了飞桨原生推理引擎 Paddle Inference 和轻量化推理框架 Paddle Lite 两个推理引擎的设计及开发,目前也负责推进飞桨服务化框架 PaddleServing,开箱即用端侧AI解决方案 LiteKit 在内的推理设施的持续演进,新一代静态图执行引擎及编译器的孵化工作等。

议题介绍

演讲:飞桨轻量化推理引擎 Paddle Lite 的实现和应用

随着深度学习的不断发展和产业落地,相应的各色芯片、手机端和物联网等场景 AI 落地均日益成熟,适用于多种硬件,多种平台的深度学习推理引擎成为必须。飞桨生态的轻量化推理引擎 Paddle Lite 就是根植于此类需求,经过专门设计和充分迭代的推理引擎,致力于众多硬件、平台的高性能推理的支持。

本主题通过解析轻量化部署的场景的特殊性,讲解 Paddle Lite 中的重要设计,讲解其中的技术决策;解析相应的效果,大致的使用方法,最后介绍其支持的一些典型应用。

演讲提纲:

  1. 深度学习硬件和平台应用场景介绍
  2. Paddle Lite 简介,在飞桨生态中位置
  3. 特性介绍
  4. 部分特性设计介绍
  5. 应用简介

你将获得:

  1. 了解移动端部署的场景、相应的挑战
  2. 学习 Paddle Lite 的使用方法
  3. 了解移动端推理引擎的架构设计,有助于在自己业务中复用一些技术抉择

交通指南

北京国际会议中心

Beijing International Convention Center
地址:北京市朝阳区北辰东路7号
  • 微信咨询

  • 电话咨询

    联系电话:+86 17310043226

微信联系我们

小姐姐