专题演讲嘉宾：季旭 博士

火山托管 Mem0 (Managed Mem0) 是一个为 AI Agent 和智能应用设计的专用记忆中间件。它以开源 mem0 为基础，通过全托管、多租户、高可用的 PaaS 服务，解决了在生产环境中构建和维护 AI 长期记忆的复杂性。其核心价值在于提供了一个强化 GraphRAG 能力的统一记忆层，使 AI Agent 能够超越短期上下文窗口的限制，形成对用户、实体及其关系的深刻、持久的理解，从而交付更加个性化、智能和连贯的交互体验。

本次演讲我将重点介绍在字节跳动内我们使用 mem0 来支持 AI Agent 的产品的一些经验和实际落地的案例，包括字节跳动 AI Agent 的痛点与需求，针对这些痛点和需求，火山记忆库 mem0 所做出来的针对性技术方案以及成功的落地案例，最后是我们对未来 AI Agent 的技术判断，希望能给听众带来一些帮助和思考。

演讲提纲

1.  AI Agent 的痛点与需求

• 记忆的实现与维护复杂：从底层的向量数据库、图数据库选型，到上层的实体关系抽取、多模态内容理解，再到服务自身的弹性伸缩与可观测性，自建一套生产级记忆系统的技术栈复杂、成本高昂
• 上下文窗口的局限：大语言模型（LLM）的上下文窗口虽然不断扩大，但依然有限且成本高昂。对于需要长期跟踪用户偏好、历史互动和领域知识的场景，简单的上下文填充方案难以为继
• 浅层语义检索的瓶颈：传统的向量检索（Vector Search）虽然能找到语义相似的文本片段，但难以捕捉和利用实体之间复杂的、隐含的关系，导致 AI 的“思考”缺乏深度和逻辑关联

2. 火山记忆库 mem0 技术方案

• graphmemory
• Short-term memory
• Context graph

3. 火山 mem0 的落地案例

• 智能客服
• AI 导购
• 研发提效
• 运维数字机器人

4. 未来展望

• 工程实践经验总结
• memory 面向 Agent 时代的演进方向

您认为，这样的技术在实践过程中有哪些痛点？

• 成本与延迟权衡：抽取、向量化、图写入和检索叠加开销，需要通过异步化、限流和策略分层平衡体验与成本
• 多租户隔离：跨会话、跨租户的租户隔离
• 双通道可观测性：向量检索和图检索并存时，故障定位和容量规划更复杂，需要统一指标和链路追踪
• 记忆效果的提升和评测：缺少领域内特定的 Benchmark，Locomo 评估的体系过于静态

演讲亮点

• 托管化记忆层：提供开箱即用的 API Key 鉴权、限流、异步任务和指标，几行代码即可接入，降低自建成本
• GraphRAG 工程落地：给出实体和关系抽取、相似度合并、图与向量融合检索和 BM25 重排的可复制方案
• 典型场景：覆盖客服、导购、研发和运维场景，总结闭环效果和关键踩坑

听众收益

• 即插即用的接入路径：通过托管 Mem0 的接口快速接入，减少对现有系统的改造。
• 火山 AI 生态的落地经验：真实的工程实践经验，避免走工程上的弯路
• 图谱构建与最佳实践：掌握抽取、合并、删除和检索融合的关键参数与实操技巧，构建最佳的记忆效果实践
• Agent 领域的演进思考：面向 OpenClaw 等最新 Agent 范式 memory 的演进规划和思考- 托管化记忆层：提供开箱即用的 API Key 鉴权、限流、异步任务和指标，几行代码即可接入，降低自建成本
• GraphRAG 工程落地：给出实体和关系抽取、相似度合并、图与向量融合检索和 BM25 重排的可复制方案。
• 典型场景：覆盖客服、导购、研发和运维场景，总结闭环效果和关键踩坑

传统软件架构有几个默认前提：

• 行为是确定的

• 调用链是可控的

• 上下文是有限的

这些前提，让我们可以设计稳定、可预测的系统。但 Agent 出现之后，这三件事都开始失效：

• 行为变成概率性的

• 执行路径不再完全可控

• 上下文开始跨越请求持续存在

所以今天我们想讨论的不是“怎么做 Agent”，而是：为了让 Agent 能在生产环境运行，我们到底被迫重写了哪些“架构前提”？以及——这些重写背后的代价是什么？