专题演讲嘉宾:冯旻伟

网易智企云商 AI 技术负责人

2020年加入网易,担任网易智企·云商AI技术线负责人,负责自然语言处理和语音算法能力建设及产品赋能。拥有十余年AI算法行业从业经验,曾就职于德国亚琛工大人类语言研究所、IBM Watson 实验室、阿里巴巴达摩院。参与过DARPA GALE/BOLT、EU Quaero等多项顶级NLP学术/政府项目,并在 DARPA/NIST、WMT、IWSLT、NTCIR等多个NLP测评中名列前茅。拥有丰富的工业界AI项目和企业级Agent项目经验,参与的项目包括AI原子能力的PaaS服务、智能语音导航系统、智慧屏、车机交互系统、客服领域大语言模型“商和”、多形态知识库、Agent 平台等。截至目前,已发表学术论文20余篇,谷歌学术总引用数4200+,已申请专利20余个。

by 冯旻伟

网易智企
云商 AI 技术负责人

传统客服机器人依赖规则与固定流程,难以处理复杂意图、跨系统操作和服务营销协同;直接接入大模型,又面临幻觉、成本、稳定性与知识退化问题。基于多个真实项目,我们总结客服营销 Agent 从 Demo 走向生产必须跨越的“敢上线、敢交办、敢放量、敢长用”四道关,并拆解意图路由与多 Agent、知识萃取与混合检索、Workflow/Skill 执行、大小模型调度、AOP 风控、人机协同及 Benchmark+TraceID 评测闭环。实践中,代表项目实现意图匹配率 99%+、问题解决率 80%+、满意度提升 20%+;另一项目解决率由 65%+ 提升至 94%+,每周减少超 1000 通人工会话。

演讲大纲

  1. 背景:客服 Agent 为什么最容易落地,也最容易“翻车”
    • 客服系统从规则机器人、大模型问答、Workflow 走向业务 Agent 的演进路径。
    • 客服营销场景的三重压力:海量实时响应、个性化服务升级、服务与转化链路融合。
    • Demo 与生产的差距:回答得像人,不等于能够稳定、安全地承担业务结果。
    • 高价值场景的选择方法:综合评估业务频次、规则成熟度、系统可连接性、风险等级和结果可量化程度。
    • 为什么应从高频、边界清晰、可度量的场景起步,再逐步进入复杂决策与主动营销。
  2. 产品方案:从“回答问题”到“完成业务”的服务营销一体化 Agent
    • 构建“路由中枢+专家 Agent”体系:售前导购 Agent、订单服务 Agent、售后处理 Agent、会员服务 Agent与人工兜底。
    • 售前场景:结合商品知识、库存、渠道和用户偏好完成选品推荐、商品对比、门店导航与多语种服务。
    • 售中售后场景:通过 Skill 连接商品、订单、会员、物流和工单系统,执行查询、修改、催办、退款与售后流程。
    • 会员服务场景:结合会员等级、历史行为、情绪和上下文,提供个性化关怀与权益服务。
    • 交互形态升级:从纯文本回复转向商品卡片、订单卡片、导航卡片等可交互结果,缩短从咨询到行动的路径。
  3. 技术方案:让企业“敢上线、敢交办、敢放量、敢长用”的四道生产关
    • 敢上线:建立生产级安全与稳定底座
      • 租户、部门、角色、用户与知识范围的多层权限隔离。
      • 输入、输出及工具调用的横切风控:敏感信息、Prompt 注入、违规承诺、服务边界和高风险操作拦截。
      • 多模型冗余、限流熔断、故障隔离与灰度发布,避免单一模型或单个 Agent 故障扩大。
      • 每次对话生成唯一 TraceID,串联意图、模型、知识、工具和答案生成链路,实现审计与问题回放。
    • 敢交办:让 Agent 真正理解业务并完成任务
      • 从历史会话、工单和业务文档中萃取结构化知识,解决一线经验难沉淀的问题。
      • 通过 Query 改写、关键词检索、向量检索、元数据过滤和 Rerank 构建混合召回链路。
      • 使用实体关系处理商品昵称、型号、机芯、业务规则等多层映射,提升行业术语理解能力。
      • Workflow 优先承载确定性流程,ReAct 仅用于边界较模糊、需要跨知识源探索的任务。
      • 通过 Skill 调用真实业务系统,使 Agent 可以查库存、查订单、改地址、建工单和执行售后动作。
    • 敢放量:在效果、成本与风险之间取得平衡
      • 以规则、小模型和大模型分层处理不同复杂度问题,避免所有流量都进入高成本大模型。
      • 采用规则匹配、语义向量和 LLM 判断组合的混合路由,低置信度时主动澄清而不是强行分流。
      • 将安全合规风控与业务质量风控分层:前者守红线,后者处理情绪、话术、价格、库存与服务规则。
      • 按风险等级设计 AI 自主处理、AI 建议人工确认、纯人工决策三类人机协同模式。
      • 通过业务指标而非模型指标验收:问题解决率、转人工率、满意度、响应时效、人效与业务转化。
    • 敢长用:建立可持续评测与运营闭环
      • 从线上会话持续提取答错、卡住、跳出等 Bad Case,区分路由、知识、工具、Prompt 和模型问题。
      • 建立黄金测试集与场景化 Benchmark,每次知识、Prompt、模型或流程变更后自动回归。
      • 新版本先对小比例用户灰度发布,验证效果优于旧版本后再逐步放量。
      • 通过 TraceID 回放完整决策链,定位“召回错、切片错、工具错、生成错”的具体环节。
      • 将人工修正、未知问题和评测结果反哺知识库与测试集,形成数据飞轮。
  4. 案例拆解:三类业务如何跨过四道生产关
    • 孩子王:多 Agent 与业务系统联动,处理近 600 个细分场景
      • 打通商品库、订单中心和会员中心,将退换货、价保、赠品和会员规则转化为可执行流程。
      • 通过多 Agent 分流、工作流决策树和角色/技能/边界三层约束,同时解决准确性与情绪价值问题。
      • 上线半年内意图匹配率达到 99%+、问题解决率达到 80%+、满意度提升 20%+,Agent 承载超过 70% 的高频咨询。
    • 酷家乐:大小模型与人机协同,解决复杂售后问题
      • 将问题分为单轮、多轮和复杂流程三类,通过场景洞察确定优先级。
      • 小模型负责高频、确定性问题,大模型负责复杂语义和多轮判断,人工处理低置信度与高风险请求。
      • 问题解决率由 65%+ 提升至 94%+,转人工率下降近 3 个百分点,每周减少超过 1000 通人工会话。
    • 王府井集团:从客服应答走向多语种推荐与线下导航
      • Agent 同时承担商品推荐、门店导航、离境退税咨询和多语种服务,将服务入口转化为导购入口。
      • 根据用户入口识别所在门店,调用商品和门店数据,返回商品卡片与精确到楼层的导航信息。
      • 超过 90% 的问题实现自动化解决,转人工率仅 5.97%,并补足非工作时段 23% 的咨询缺口。
  5. 实施经验:Agent 落地不是模型项目,而是持续运营的业务工程
    • 先定义业务目标和效果基线,再选择模型与架构,避免从技术能力倒推伪需求。
    • 采用“内部 Copilot 验证—小流量 Agent 试点—分场景逐步放量”的渐进式上线策略。
    • 组织上需要业务、客服运营、知识运营、算法和工程共同负责,不能把效果问题只交给模型团队。
    • Agent 的最终价值不是生成了多少内容,而是独立完成了多少业务、降低了多少人工负担、减少了多少风险并创造了多少增量价值。
    • 未来方向:从单个客服 Agent 走向覆盖售前、售中、售后与会员运营的智能服务团队。

技术实践痛点

  • 核心矛盾:客服营销 Agent 需要足够的自主性来理解口语化需求、处理流程跳转和调用多个业务系统,但企业生产环境又要求路径可预测、结果可审计、成本可控制、风险可兜底。自主性越强,灵活性越高,但确定性、稳定性和审计难度也随之上升。
  • 具体痛点:
    • 多 Agent 路由容易转错或卡住:同一句话可能同时包含商品咨询、物流查询和退款诉求,纯靠大模型分类不稳定;用户中途跳出工作流后,原任务也容易丢失。
    • 知识召回正确不等于答案正确:问题可能出在文档解析、切片、召回、重排或最终生成任一环节;大模型还可能对正确参数进行“创造性改写”。
    • Workflow 与 ReAct 难以一刀切:Workflow 可控、可审计,但面对长尾问题适应性不足;ReAct 灵活,却存在路径不确定、Token 成本高和重复调用工具的风险。
    • 自动化率与业务风险相互制约:风控阈值过严会导致大量转人工,阈值过松又可能造成错误承诺、情绪升级或业务资损。
    • 上线效果会随业务变化退化:商品、政策、流程和模型版本持续变化,仅靠上线前测试无法保证长期质量。

当前应对方式

  • 使用“规则+向量语义+LLM”混合路由,低置信度时追问澄清或转人工;通过状态机挂起与记忆栈恢复被打断的工作流。
  • 确定性业务坚持 Workflow 优先,ReAct 被限制在明确的工具白名单、预算、最大步骤数与安全围栏内。
  • 对产品参数、政策规则和高风险内容要求知识来源可追溯;生成前后增加一致性检查与 AOP 拦截。
  • 使用大小模型分层处理,在延迟、成本和回答质量之间动态取舍;高风险决策始终保留人工确认。
  • 建立黄金测试集、自动 Benchmark、小流量灰度、TraceID 回放和 Bad Case 数据飞轮,但长尾场景覆盖率与自动评测可信度仍需要持续提升。

听众收益

  • 获得一套高价值场景选择与 ROI 验证方法:能够根据业务频次、规则成熟度、风险等级、系统可连接性和指标可量化程度,判断哪些 Agent 场景值得优先投入。
  • 掌握一套生产级客服营销 Agent 架构:理解如何组合多 Agent 路由、知识系统、Workflow/Skill、大小模型调度、AOP 风控与人机协同,使 Agent 从“能聊”升级为“能办事”。
  • 带走一套上线后的持续运营闭环:学习如何通过黄金测试集、场景化 Benchmark、灰度发布、TraceID 与 Bad Case 复盘,持续发现并修复路由、知识、工具和模型问题。
  • 获取多个企业级Agent的落地实践案例:覆盖母婴、商综商超、B2B等各个行业,拆解孩子王、王府井集团、酷家乐等企业的Agent落地挑战、应用场景和业务收益。

交通指南

上海建工浦江皇冠假日酒店

Shanghai Construction Group Pujiang Crowne Plaza Hotel
地址:上海市闵行区陈行公路 3701 号
  • 微信咨询

  • 电话咨询

    联系电话:18514549229

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手