专题演讲嘉宾:王世杰

阿里云技术专家

Qoder记忆系统负责人,持续深耕记忆领域。致力于创造可自进化的智能体,越来越强,越来越懂用户,让创造力变成现实。 曾就职于网易、蚂蚁、阿里云,有丰富的产品和平台开发经验,涉及电商、保险、交通等多个行业。

by 王世杰

阿里云
技术专家

在软件开发日益复杂的背景下,开发者对智能体的期望已从简单的代码生成转向深度协作。Qoder引入记忆系统,旨在让智能体具备“记住”和“理解”能力,从而更贴合用户需求、提升协作效率。传统智能体缺乏长期记忆机制,导致重复学习、上下文断裂,影响使用体验。为此,我们构建了涵盖用户偏好、项目信息、开发规范与历史经验的记忆体系,并结合LLM实现记忆的生成、检索与持续优化。通过主动教育与轻量干预机制,有效解决记忆冲突与过时问题,使智能体逐步成长为一个懂用户的开发伙伴。实践表明,记忆系统的引入显著提升了任务处理的连贯性与准确性,推动人机协作向更高层次演进。

演讲提纲

  1. 问题背景与需求分析
    • 开发协作痛点:传统智能体缺乏记忆机制,导致上下文丢失、重复提问、理解偏差。
    • 用户期望升级:从“代码助手”到“可信赖伙伴”,需要具备个性化理解、历史推理与持续学习能力。
    • Qoder目标:构建一个具备记忆感知、反思能力和任务规划能力的智能体系统。
  2. 方案选型与技术架构
    • 记忆体系设计:
      • 记忆类型分类:用户偏好、项目信息、开发规范、历史经验、对话风格等。
      • 记忆存储形式:结构化数据 + 自然语言文本,便于检索与更新。
    • 记忆获取方式:
      • 自动生成(LLM提取) vs 用户主动教育(指令式输入)。
    • 检索策略:基于意图识别 + 多模态召回(关键词+语义匹配)。
    • 外挂式记忆架构:采用外部知识库(如RepoWiki、Rules、Agents.md),实现高精度、可控性强的记忆管理。
  3. 关键技术细节与创新点
    • 记忆生成流程:场景触发 → 信息组装 → LLM提取 → 内容解析 → 质量评估 → 冲突检测 → 合并/覆盖处理。
    • 记忆检索优化:
      • 增加前置过滤机制,避免噪声干扰;
      • 使用向量化+BM25混合检索提升相关性。
    • 记忆反思与整理:
      • 全链路监控机制,评估记忆对任务的影响(正向/负向);
      • 动态维护工作记忆(会话级/项目级),支持自动清理与激活。
    • 类脑启发设计:借鉴生物记忆机制,强化重复学习与情绪关联记忆的建模。
  4. 实施过程中的踩坑经验
    • 记忆冲突问题:新旧规则不一致时如何判断优先级?引入用户确认机制,增强透明度与可控性。
    • 过时信息干扰:未及时清理的历史记忆影响推理准确性,需定期触发“记忆整理”流程。
    • 模型幻觉风险:LLM自动生成的内容存在偏差,需设置质量评估阈值,结合人工审核机制。
    • 用户教育成本高:初期用户不熟悉“记忆操作语法”,通过交互引导与提示词优化降低使用门槛。
  5. 实施效果与结论
    • 效率提升:任务执行连贯性增强,减少重复沟通与上下文切换。
    • 质量提升:基于历史经验的推理减少常见错误发生,提升代码一致性。
    • 用户体验优化:智能体逐渐形成“个性”,更贴近开发者真实工作场景。
    • 未来方向:探索参数精炼式记忆(如LoRA微调)、类脑记忆架构等前沿路径,进一步提升智能体的记忆能力与能效比。

这样的技术在实践过程中有哪些痛点?

  1. 如何评价记忆的效果;
  2. 如何评价记忆对产品的价值;
  3. 如何平衡速度、参与率、有效率。

演讲亮点

  1. 记忆网络激活策略,相关性优于推理。记忆是索引的艺术,如何完成记忆的索引和高效激活。
  2. 多阶段混合检索技术,让速度、参与率、有效率实现均衡。

听众收益

  1. 真实垂直业务场景的落地经验,能落地的经验才是有价值的。
  2. 实践中踩过的大坑,避免重复犯错。
  3. 如何让数据飞轮跑起来,让智能体持续进化。

交通指南

北京富力万丽酒店

Renaissance Beijing Capital Hotel
地址:北京市朝阳区东三环中路61号
  • 微信咨询

  • 电话咨询

    联系电话:+86 18514549229

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手