PaddlePaddle 推理部署方向技术负责人,2015年加入百度,近四年专注于深度学习平台架构领域,先后从0到1主导了飞桨原生推理引擎 Paddle Inference 和轻量化推理框架 Paddle Lite 两个推理引擎的设计及开发,目前也负责推进飞桨服务化框架 PaddleServing,开箱即用端侧AI解决方案 LiteKit 在内的推理设施的持续演进,新一代静态图执行引擎及编译器的孵化工作等。
随着深度学习的不断发展和产业落地,相应的各色芯片、手机端和物联网等场景 AI 落地均日益成熟,适用于多种硬件,多种平台的深度学习推理引擎成为必须。飞桨生态的轻量化推理引擎 Paddle Lite 就是根植于此类需求,经过专门设计和充分迭代的推理引擎,致力于众多硬件、平台的高性能推理的支持。
本主题通过解析轻量化部署的场景的特殊性,讲解 Paddle Lite 中的重要设计,讲解其中的技术决策;解析相应的效果,大致的使用方法,最后介绍其支持的一些典型应用。
演讲提纲:
你将获得:



微信咨询

电话咨询
微信联系我们

