WasmEdge 项目 Maintainer, Second State 工程师。

WasmEdge 项目 Maintainer, Second State 工程师。
基于大模型的 AI 应用(简称大模型应用)已经成为众多行业技术革新的主要推动力。而同一时刻,用户的巨量访问需求也为大模型应用基础设施的性能、安全性、可靠性等提出了新的挑战。一直以来,在构筑面向机器学习应用的 AI 基础设施中,Python + Docker 是主流的组合方式。本次分享中,我们将介绍 Rust + WebAssembly 的全新组合方式,通过比较两种组合方式,阐述为什么后者更适合于构筑大模型应用基础设施。
演讲提纲:
1. 当前 Python+Docker 组合在构建大模型基础设施中存在的问题
2. 为什么 Rust + WebAssembly 组合更适于构建大模型基础设施
3. Rust + WebAssembly 组合案例分享
你将获得:



微信咨询

电话咨询
领取往期热门演讲视频

