WebNN,Web 端侧推理的未来

所属专题:LLM 时代的大前端技术

嘉宾 : 胡宁馨 | 英特尔软件与先进技术事业部/首席工程师

会议室 : 纽约厅(二层)

讲师介绍

专题演讲嘉宾:胡宁馨

英特尔软件与先进技术事业部/首席工程师

就职于 Intel 软件与先进技术事业部,专注于 Web 技术,W3C 机器学习工作组 Web Neural Network API (WebNN)规范的发起者和联合编辑,Chromium 项目Code Committer,WebNN 模块负责人。

议题介绍

地点:纽约厅(二层)
所属专题:LLM 时代的大前端技术

演讲:WebNN,Web 端侧推理的未来

AI PC 以及 AI Mobile 的新兴时代已经到来,越来越多的设备集成了强大的神经处理单元 NPU,以实现高效的人工智能加速,这对需要端侧推理的应用至关重要。除了通过 CPU 和 GPU 进行推理之外,Web Neural Network API (WebNN) 提供了 Web 应用访问此类专有 AI 加速器 NPU 的途径,以获得卓越性能及更低功耗。

本次演讲将会给大家分享 WebNN API 的 W3C 标准进度,对 CNN,Transformer 以及更广泛的生成式 AI (Generative AI) 模型的支持情况和计划,以及在 Chrome,Edge 等浏览器的实现进展。作为 JavaScript ML 框架的后端,WebNN 将会在几乎不更改前端代码的前提下,为 Web 开发者及他们的产品带来相较于 Wasm,WebGL 更为优异的性能体验。

演讲提纲:

  1. 当前 Web AI 发展概况
  2. 主流硬件加速器的发展(CPU,GPU,NPU)
  3. WebNN 设计与架构
  4. WebNN 代码演示
  5. WebNN 浏览器(Chromium)实现
  6. WebNN 机器学习框架集成(ONNXRuntime 和 TensorFlowLite)
  7. WebNN Transformers 支持
  8. WebNN 性能

听众收益点:

  • 了解 Web 平台对异构处理器的支持
  • 了解基于 Web 的机器学习模型硬件加速
  • 了解 Chromium 实现内部细节

交通指南

上海中优城市万豪酒店

Shanghai Marriott Hotel Pudong South
地址:上海市浦东新区沪南公路7688弄上海中优城市广场1号楼1楼
  • 微信咨询

  • 电话咨询

    联系电话:+86 18514549229

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小姐姐