当今 Agent 作为 AI 原生应用的具体技术形态已经成为行业共识,自 202... 展开 >








郑然,百度杰出架构师,百度智能云基础公有云技术负责人。自加入百度以来,一直从事分布式系统和工程架构的研发工作,先后负责大规模分布式索引系统、云原生平台、分布式存储技术、虚拟化和弹性计算技术等大型分布式系统的设计和研发工作。积极参与技术社区活动,多次担任 QCon /TOP 100 等技术大会的联席主席,讲师,出品人等。
当今 Agent 作为 AI 原生应用的具体技术形态已经成为行业共识,自 2025 年以来 Agent 应用成爆发趋势,越来越多的 Agent 涌现出来。当 Agent 从 Demo 进入真实业务,执行链路长、上下文膨胀、成本失控等问题会迅速暴露。Agent 在工程实现层面如何跑得更快、更稳、更便宜?
本专题将深入 Agent Infra 的设计架构,探讨以下几方面问题:
Agent 架构范式: Agent 开发框架, 主要设计模式,推理路径裁剪,并行与缓存策略,失败重试机制等
Agent 上下文工程:上下文设计,沙箱运行环境,数据记忆服务,工具服务调用,长上下文推理优化等
Agentic-RL 技术: 面向 Agent 的强化学习技术,数据合成,模型训练,环境仿真等
Agent 可观测技术:上下文采集,效果评估,数据飞轮等
通过本专题探讨, 希望给观众带来以下核心价值:
应用实践:Agent 应用的架构设计和最佳实践
架构设计:Agent Infra 技术架构的工程优化
效果优化:面向 Agent 应用场景的数据反馈和模型优化
AI Agent 与 RL 训练场景对执行环境提出了全新要求:短生命周期、高并发、可控网络与可复用能力并存,而传统容器体系在启动速度、编程一致性与安全隔离上难以兼顾。
OpenSandbox 是一套面向 AI 时代的开放沙箱运行时框架,采用“Protocol-First”设计,将沙箱生命周期与执行能力抽象为统一协议,解耦 SDK 与 Runtime,并通过 K8s 资源池化与批量调度实现秒级、大规模交付(3.5s 交付 1000 个、10s 交付 5000 个沙箱)。
本次演讲我将结合阿里巴巴内部 Coding Agent、Agent 评测体系与 Coding 场景 RL 训练的真实实践,深入解析 OpenSandbox 在高吞吐执行、细粒度网络安全控制与企业级可扩展性上的关键设计与落地经验。
演讲提纲
1. AI Agent 执行环境的新挑战
2. OpenSandbox 的核心设计:Protocol-First
3. 池化调度与极速交付
4. Agent 场景下的安全执行
5. 真实落地案例
6. 未来演进方向
您认为,这样的技术在实践过程中有哪些痛点?
演讲亮点
听众收益
随着智能体在舆情分析、深度研究、知识生产等场景中的广泛应用,越来越多团队发现:“架构图看起来很美,但一上线就开始幻觉、偏题、失控。”
本次分享我将从工程实践视角出发,系统梳理 18 种常见智能体架构模式,并重点讨论这些模式在真实业务场景中的失效方式与边界条件。最后,将结合微舆与 DeepResearch(DeerFlow/Insight 类似项目)的实践经验,深入分享:
1. 为什么某些看似合理的智能体架构,在信息不完整、目标不清晰的场景下会系统性失败;
2. 团队在实践中如何通过模式应用、信息补全、护栏机制,一步步修补这些设计缺陷;
3. 以及这些工程取舍,对未来智能体系统设计带来的关键启示。
这不是一场“架构大全”的介绍,而是一份智能体工程落地的踩坑与反思记录。
演讲提纲
1. 背景:从“降龙十八掌”说起:为什么有那么多智能体架构?
2. 案例一:微舆智能体——热点跟踪中的"以偏概全"是怎么产生的?
3. 案例二:DeepResearch(Insight)——深度研究型智能体如何对抗"信息不全 + 幻觉"
演讲亮点
听众收益
火山托管 Mem0 (Managed Mem0) 是一个为 AI Agent 和智能应用设计的专用记忆中间件。它以开源 mem0 为基础,通过全托管、多租户、高可用的 PaaS 服务,解决了在生产环境中构建和维护 AI 长期记忆的复杂性。其核心价值在于提供了一个强化 GraphRAG 能力的统一记忆层,使 AI Agent 能够超越短期上下文窗口的限制,形成对用户、实体及其关系的深刻、持久的理解,从而交付更加个性化、智能和连贯的交互体验。
本次演讲我将重点介绍在字节跳动内我们使用 mem0 来支持 AI Agent 的产品的一些经验和实际落地的案例,包括字节跳动 AI Agent 的痛点与需求,针对这些痛点和需求,火山记忆库 mem0 所做出来的针对性技术方案以及成功的落地案例,最后是我们对未来 AI Agent 的技术判断,希望能给听众带来一些帮助和思考。
演讲提纲
1. AI Agent 的痛点与需求
2. 火山记忆库 mem0 技术方案
3. 火山 mem0 的落地案例
4. 未来展望
您认为,这样的技术在实践过程中有哪些痛点?
演讲亮点
听众收益
传统软件架构有几个默认前提:
行为是确定的
调用链是可控的
上下文是有限的
这些前提,让我们可以设计稳定、可预测的系统。但 Agent 出现之后,这三件事都开始失效:
行为变成概率性的
执行路径不再完全可控
上下文开始跨越请求持续存在
所以今天我们想讨论的不是“怎么做 Agent”,而是:为了让 Agent 能在生产环境运行,我们到底被迫重写了哪些“架构前提”?以及——这些重写背后的代价是什么?



微信咨询

电话咨询
领取往期热门演讲视频

