大模型训练中 PyTorch 与国产芯片的“爱恨情仇”

所属专题:边缘计算与人工智能的创新实践

嘉宾 : ZOMI 酱 | 华为昇腾生态技术首席

会议室 : 钻石厅A

讲师介绍

专题演讲嘉宾:ZOMI 酱

华为昇腾生态技术首席

ZOMI 酱,华为昇腾生态技术首席,博士,研究方向为多智能体强化学习、移动视觉和深度学习算法及其应用。曾参与分布式大型系统、多传感器融合系统等大型项目,多次获国家级创新项目奖。华为大学荣誉讲师,给孟晚舟、孟平总等公司高级领导人讲课。在 CCF、昇腾鲲鹏开发者大会、华为开发者大会等百人、千人场所进行技术分享。作为第一作者著有《 AI 系统》、《深度学习:原理与实践》、《深度强化学习:原理与实践》3 本专著,并累积发表了 113 篇发明类专利。B 站 AI 领域著名 UP 主( ZOMI 酱),全网播放量超千万。

 

议题介绍

演讲:大模型训练中 PyTorch 与国产芯片的“爱恨情仇”

PyTorch 是大部分程序员和开发者所青睐的 AI 框架,但是 PyTorch 主要支持英伟达的 GPU,当前新的 AI 芯片层出不穷,如 Google 的 TPU、华为的昇腾 Ascend 等如何做好适配,如何才能够在国产芯片中灵活、方便地使用 PyTorch 成为一个巨大的挑战。

本演讲将通过介绍 PyTorch 框架的整体分层解耦架构,帮助大家了解 PyTorch 框架的内容与 GPU 之间的关系;然后以国产 AI 芯片华为昇腾为例,介绍在硬件迭代的过程中,PyTorch 如何通过业务实践与重构,更好地让 AI 框架原生适配昇腾。

 

听众收益:

了解 PyTorch AI 框架架构、国产芯片架构、适配层架构、大模型训练、三方库适配等大模型相关技术及应用。

 

适合人群:

算法工程师、系统工程师、大模型工程师

交通指南

上海中谷小南国花园酒店

China Grain Hotel
地址:上海市杨浦区佳木斯路777号(近营口路口)
  • 微信咨询

  • 电话咨询

    联系电话:+86 18514549229

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手