在过去的两年里，AI 技术取得了巨大的飞跃。从文生图领域的 Stable Diffusion 到基于大语言模型的 ChatGPT，这些突破让我们看到每个应用都有潜力被大模型重新定义。虽然前景光明，但相应的高成本也令许多公司和个人开发者望而却步。

本次演讲将围绕如何利用 WebNN 访问专有 AI 加速器，实现在本地终端上运行如 Stable Diffusion、Segment Anything、Whisper 等热门 AI 模型的体验，以及这些模型在性能优化方面的实践经验。通过这种方式，个人开发者和中小型研发团队也可以享受到 AI 浪潮带来的红利。

演讲提纲

1. 背景

• 基于 WebNN 的 Stable Diffusion 的效果展示
• Stable Diffusion 核心算子结构与介绍
• 如何通过 ML API 进行性能优化

2. WebNN API 在浏览器的架构设计

• WebNN 核心 API 介绍
• 基于 Chromium 的多进程架构设计

3. 基于 WebNN 运行 Hugging Face 知名模型

• 基于 WebNN 的 Stable Diffusion / Segment Anything / Whisper Base 模型运行实践
• 基于 CPU / GPU / NPU 的性能评测与对比

4. 在 Chrome 和 Edge 浏览器上的 WebNN 实践

• 通过 JavaScript ML Framewoek 实践 WebNN API
• 如何扩展支持更多的 Hugging Face 模型

实践痛点

• 如何通过 WebNN 实现在 Web 端接近原生的模型推理性能
• WebNN 对主流模型涉及算子的覆盖与兼容
• 如何使用 WebNN 进行模型推理性能优化

演讲亮点

• 可以了解如何在 Web 上推理及优化 AIGC 相关领域模型 

听众收益

• WebNN 为前端开发者带来了除了 Web Assembly 及 WebGPU 之外的新选择 
• 了解 WebNN 接口和使用 
• 了解 WebNN 的性能及优势 
• 在 Web 端实践这些 AIGC 领域模型