专题演讲嘉宾:应茹

百度智能云基础公有云部主任架构师

2013 年加入百度,先后负责大数据集群分布式调度器、云 IaaS 虚拟机控制面、存储虚拟化数据面、单机虚拟化组件与内核的研发工作。

by 应茹

百度
智能云基础公有云部主任架构师

大模型技术的迅速发展和AI应用的繁荣,对云 IaaS 基础设施提出了新的要求。IaaS 的单机虚拟化技术,基于其计算与设备的虚拟化能力,为云上应用提供极致性能与弹性的计算实例,在这样的背景下,我们也面向 AI 原生应用做了诸多探索和实践,如基于大模型性能和效率的评价视角进行端到端技术栈优化,面向 Serverless 训推场景推出安全容器虚拟化形态,以及面向 AI 数据安全场景落地训推一体的 AI 机密计算实例等等,以支撑 AI 原生应用在云上的高效运行。

演讲提纲

  1. 基于 DPU 的全资源售卖虚拟化架构
  2. 由大模型评价视角驱动的虚拟化技术栈优化
  3. Serverless 场景 AI 安全容器
  4. AI 机密计算实例

您认为,这样的技术在实践过程中有哪些痛点?

  1. 全资源售卖架构下无法达到 100% 持平裸金属的性能表现
  2. 安全容器在弹性与企业级特性之间需要有所取舍
  3. 机密计算实例在安全与性能之间需要由所取舍,性能优化之路道阻且长

演讲亮点

  1. 整体虚拟化架构从传统架构向基于DPU的全资源售卖架构转变,各 DPU 厂商的在设备模拟方面的实现方案各有差异,虚拟化架构需要清晰划分边界高效对接、纳管同时推动设备虚拟化往统一的形态去发展
  2. AI 智算视角的虚拟化技术迭代,如何利用通算场景积累的优势,同时又面向智算去做演进和优化。

听众收益

  1. 理解云计算 IaaS 虚拟化架构的演进状态
  2. 在 AI Infra 蓬勃发展的背景中,IaaS 虚拟化架构可以做什么,做了什么,都有什么样的收益

交通指南

北京石景山万达嘉华酒店

Wanda Jin
地址:北京市石景山区石景山路甲18号院
  • 微信咨询

  • 电话咨询

    联系电话:+86 18514549229

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手