反卷“大”模型

会议室:中华厅2
出品人:曾国洋

2024 是端侧 AI 元年,端侧AI研究和应用浪潮在全球涌动。OpenAI、谷... 展开 >

专题出品人:曾国洋

面壁智能联合创始人 & CTO

2015 年 NOI 金牌进入清华大学计算机系,曾获清华大学挑战杯一等奖、首都大学生挑战杯一等奖、智能体大赛一等奖等。2017 年加入清华大学自然语言处理实验室,2020 年以骨干身份加入「悟道·文源」中文预训练大模型团队,参与 CPM 系列模型的训练和研发,在此期间编写了大模型高效训练和推理工具 BMTrain、BMInf 等,并获多项发明专利。自 2021 年起担任智源研究院语言大模型加速技术创新中心副主任,并于 2022 年创立面壁智能并担任 CTO,入选 2024 年度“北京市科技新星计划”,致力于推动大模型技术的落地应用。

地点:中华厅2

专题:反卷“大”模型

2024 是端侧 AI 元年,端侧AI研究和应用浪潮在全球涌动。OpenAI、谷歌、苹果、面壁智能等全球代表性机构相继发布「小而猛」的轻量高性能端侧 AI 技术; AI 手机、AI PC、AI 眼镜,以及 AIoT 领域的各类AI智能终端设备成为当下数码和科技圈广为热议的关键词。纵观计算机发展的历史,AI 计算也像当年的计算机,从大型集中,走向小型化和个人化,大模型将以终端落地的方式进入千家万户、千行百业。

在本专题中,我们将围绕着以下话题进行深入研讨,探索端侧大模型落地的重要趋势:

  1. 端侧 AI 算力与大模型结合的核心技术与关键指标;

  2. 端侧模型目前的能力边界以及未来发展趋势;

  3. 端侧大模型应用案例和用户价值;

通过本专题,听众能够了解到端侧模型在应用落地中的现状和前景,收获新的视角。

by 万卫星

高通
AI 产品技术中国区负责人

近年来,生成式 AI 模型和终端侧推理技术快速发展,推动 AI 从云端向边缘侧扩展。然高通技术公司凭借其在边缘计算领域的硬件创新、软件优化和生态合作,引领了 AI 推理的变革。高通凭借其先进的连接、计算和边缘 AI 技术以及独特的产品组合,推动了 AI 在智能手机、PC、汽车等终端的规模化应用,为行业提供了及时响应、低成本、隐私安全的解决方案。

演讲提纲 

1. AI 在终端侧规模化落地的挑战 

  • 大模型难以在终端设备上运行,高功耗、高内存占用限制应用场景  
  • 云端推理依赖网络,难以满足实时性需求,且存在数据隐私风险  
  • 模型部署跨终端适配难度大  

2. 四大趋势推动大量高质量小模型的涌现

  • 当前先进的 AI 小模型已具有卓越性能
  • 模型参数规模正在快速缩小
  • 开发者能够在边缘侧打造更丰富的应用
  • AI 正在成为新的 UI

3. 高通的技术创新路径

  • 硬件协同优化
  • 强大的 AI 软件栈
  • 面向未来智能体的 AI 规划器
  • 开发者生态支持

4. 跨行业终端侧 AI 部署和应用

  • 手机:实时翻译、生成式图像编辑、个性化 AI 助手
  • PC:Windows AI+ PC 的本地生成式 AI 应用
  • 汽车:智能座舱多模态交互、自动驾驶实时决策
  • 工业物联网:本地化 AI 推理保障数据隐私

5. AI 推理创新的关键洞察 

  • 技术融合:模型压缩与硬件优化需深度协同,才能实现高效推理 
  • 生态共建:与开发者、模型厂商合作,加速技术落地与应用场景创新 

演讲亮点 

  • DeepSeek R1 蒸馏模型的推出颠覆了关于 AI 发展的传统认知  
  • AI 推理功能在终端侧的广泛普及赋能,打造了丰富的生成式 AI 应用
  • 通过采取开发者为中心的策略,简化在消费和商用产品中集成先进 AI 特性  
  • 智能体 AI(Agentic AI)是下一代用户交互的核心  

听众收益

  • 了解 AI 从云端训练向边缘推理转型的核心驱动力与行业机会  
  • 学习模型小型化、硬件优化等,掌握终端侧 AI 部署关键工具
  • 获取手机、汽车、工业等领域的 AI 应用案例,启发业务创新 
  • 了解高通开发者支持服务,加速自身 AI 项目落地

by 曾国洋

面壁智能
联合创始人 & CTO

近几年大模型技术快速发展,取得了一系列重大突破,大模型能力的核心“知识密度”逐渐为大家所认知。面壁智能一直以来致力于研发更高知识密度的大模型,在业内首先提出知识密度概念并在模型研发过程中取得实践。本次分享内容将围绕大模型知识密度展开,介绍知识密度与大模型的关系以及知识密度长期发展方向,帮助大家更好的理解大模型技术在未来一段时间的发展趋势,提前布局保障企业的核心竞争力。

演讲提纲

1. 大模型技术趋势

  • 从 GPT-3 到 Deepseek-R1 大模型技术演变历程
  • 下一次 Deepseek 时刻会发生在哪
  • 预训练终结后的大模型前景

2. 知识密度的现状与挑战

  • 知识密度的定义与模型发展规律
  • 知识密度与模型能力上限的关系
  • 突破知识密度的技术实践

3. 思维链与强化学习

  • 大模型为什么需要思维链
  • 强化学习与思维链技术结合对大模型的意义

4. 大模型应用落地展望

  • 未来大模型格局如何演变
  • 知识密度之外,大模型应用落地还存在哪些障碍
  • 大模型快速发展时代,如何不落后于潮流

by 王云生

饿了么
物流技术终端负责人

在即时物流的业务场景下,我们需要重度依赖骑手来完成履约做业。在这个过程中,骑手可能会遇到各种各样实际的困难。如何通过端智能的能力来准确的刻画出骑手实际的做业情景,如何为骑手规避可能遇到的困难,如何为骑手提供更强的辅助能力,一直是及时物流行业努力的方向。

演讲提纲

  1. 即时物流行业介绍
    • 什么是即时物流
    • 即时物流和传统物流的区别
    • 骑手作业流程介绍
  2. 骑手运动状态推断及应用
    • 骑手运动状态推断
    • 通过运动状态刻画出的数字世界
    • 数字世界是如何辅助骑士履约的
  3. 图像识别在即时物流场景的应用
    • 通用的图像识别在即时物流场景的应用
    • 如何利用图像识别能力对图像做清洗
    • 端智能在其它业务场景的应用
  4. 端智能在骑手履约场景的未来
    • 智能体如何辅助骑手作业

听众收益

  • 了解端智能的概念
  • 了解端智能目前可以做到什么程度
  • 拓宽自己关于端智能如何在实际业务中落地方向上的思路

交通指南

北京石景山万达嘉华酒店

Wanda Jin
地址:北京市石景山区石景山路甲18号院
  • 微信咨询

  • 电话咨询

    联系电话:+86 18514549229

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手