金融大模型的工程化实践

会议室:兴盛宴会厅
出品人:张彭善

在金融行业,大模型(LLM)已从技术热点转向实际业务应用。然而,实际应用落地仍面... 展开 >

专题出品人:张彭善

PayPal AI 特征与计算平台研发架构师、研发总监

2012 年加入 PayPal 风险管理平台部门至今,在 PayPal 主要负责实施和构建大数据AI计算平台用以支撑 PayPal 全球风险管理业务。2019 年开始带领团队构建 PayPal 实时图计算数据库用以加强风控数据维度,目前支撑 PayPal 的一站式图规模达到千万级别图查询吞吐量。最近的研究主要集中在如何拓展 AI 计算平台支持更多的 PayPal 业务,如基于 Venmo 朋友关系的产品推荐;如何结合大模型构建攻击系统主动识别PayPal系统和产品的缺陷,并构建自动化风控解决方案等。如何利用大模型构建自主红蓝攻防系统,变被动式风险防御为主动式风险识别。

地点:兴盛宴会厅

专题:金融大模型的工程化实践

在金融行业,大模型(LLM)已从技术热点转向实际业务应用。然而,实际应用落地仍面临 风险合规、计算成本、业务适配、幻觉问题等关键挑战。如何在金融领域将大模型的能力应用到可量化、真正可用的金融业务场景?

本专题聚焦金融大模型的工程化落地,邀请头部金融机构、AI 技术专家和行业实践者,分享从大模型选型、大模型集成、大模型的场景应用以及大模型的幻觉问题解决 的全链路经验,探讨:

  • 如何让大模型真正理解金融业务逻辑?
  • 如何对金融大模型进行 Prompt 优化、RAG 优化以及模型微调?  
  • 大模型如何与现有风控、合规、投研、客服系统对接?
  • 如何解决金融大模型的解释性、性能和安全等风险?尤其是应用于关键金融业务场景。
  • 如何解决金融领域的大模型幻觉问题?
  • 哪些场景已跑通 ROI?哪些仍是“伪需求”?

通过本专题的学习,听众将深入了解金融大模型的前沿技术、工程化挑战、业务应用场景以及未来发展趋势。无论你是金融机构的技术负责人、数据科学家、业务分析师,还是对金融 AI 感兴趣的从业者,都能在本专题中找到有价值的内容,助力你在金融智能化转型的道路上迈出坚实的一步。

by 陆旭明 博士

蚂蚁数科
技术架构专家

金融领域对智能体应用的严谨性与合规性提出极高工程化标准。在金融大模型工程化落地中,需通过技术手段平衡效率与风险。通过专项训练金融垂类大模型并融入原则类合成数据,模型幻觉率显著降低;训练阶段实施语料净化与数据脱敏,推理阶段部署问答管控机制,敏感信息泄露风险大幅下降。采用高低代码混合开发模式实现业务与技术协同,开发效率显著提升。本次演讲我将分享这些工程化实战路径,提升金融大模型工程化的业务响应能力,更助于行业探索出一条金融 AI 生态可持续发展的技术路径。

演讲提纲

1. 金融严肃场景对大模型工程化的核心诉求

  • 工程化视角下的 “严谨性” 落地要求:以财务报表智能分析为例,如何通过数据校验机制实现 “数值一致性”,某银行因数据校验缺失导致批量计算错误的工程化复盘
  • 合规性工程化挑战:监管政策动态适配的技术架构,如禁止收益预判类输出的实时拦截规则迭代实践
  • 金融业务主链路对智能体 “可信属性” 的工程化指标定义(准确率 / 合规率 / 响应时效等)

2. 大模型幻觉治理的工程化实践路径

  • 金融垂类数据工程建设:专业语料清洗规则、领域知识图谱构建方法,原则类合成数据生成的技术标准与质量校验流程
  • 强化学习工程化落地:专家经验量化建模方法,奖励函数动态调优系统的架构设计,模型决策路径可追溯方案实现
  • 工程踩坑案例:训练数据分布偏移导致的幻觉反弹问题,通过动态采样策略优化的解决过程

3. 金融智能体全生命周期安全工程建设

  • 训练阶段安全防护:数据投毒检测算法部署、训练环境供应链安全扫描流程,敏感数据脱敏的工程化标准
  • 推理阶段安全管控:实时问答内容审计引擎架构,提示词注入防御算法优化,基于角色的权限粒度控制实现
  • 安全事件响应机制:小规模数据泄露的溯源排查流程,应急止损的技术方案迭代

4. 混合开发模式的工程化效率提升实践

  • 高低代码协同开发平台架构:业务规则可视化配置模块与底层技术接口的适配设计​
  • 金融业务场景落地案例:财富智能管家开发中,业务人员通过低代码配置风控规则,技术团队通过高代码优化模型调用效率的协同过程
  • 工程效率指标对比:需求迭代周期、代码复用率、线上问题修复时效的优化数据

5. 未来金融大模型工程化演进方向与挑战

  • 实时交易场景的时延优化瓶颈(当前 P99 时延现状与技术攻坚方向),模型能力保鲜的自动化更新机制
  • 技术演进路径:多模态金融智能体的工程化架构探索,监管沙盒环境下的技术验证流程设计​
  • 行业协作方向:金融 AI 工程化标准共建的必要性与实践思路

您认为,这样的技术在实践过程中有哪些痛点?

  • 幻觉治理与数据偏移问题、安全防护与数据泄露风险、业务与技术协同开发的挑战、实时交易场景的时延优化瓶颈、模型能力保鲜与自动化更新

演讲亮点

  • 聚焦金融场景真实工程痛点解决:围绕金融大模型落地中最核心的严谨性、合规性、安全性问题,结合银行实际案例拆解工程化实践细节,如财务报表分析的数值一致性保障、监管规则实时适配等,直击从业者日常开发运维中的高频难题
  • 提供可复用的技术实践方法论:详细分享幻觉治理的全流程技术路径,包括垂类数据工程建设标准、强化学习动态调优架构等,配套 “踩坑实录” 还原训练数据偏移等问题的解决过程,为同类场景提供可借鉴的技术方案​
  • 解密全生命周期安全工程体系:从训练阶段的数据防护到推理阶段的实时管控,拆解数据投毒检测、提示词注入防御等关键技术的落地逻辑,以及安全事件应急响应的实操流程,帮助观众构建完整的安全工程认知
  • 呈现效率提升的工程化实践成果:通过财富智能管家等具体场景,展示高低代码混合开发如何实现业务与技术协同,用需求迭代周期缩短、代码复用率提升等真实数据,直观呈现工程化优化带来的实际价值
  • 前瞻技术演进与行业协作方向:深入分析实时交易时延优化、模型能力保鲜等核心挑战,探讨多模态架构、监管沙盒验证等技术路径,以及行业标准共建思路,为从业者提供长期技术规划参考

听众收益

  • 技术实践方法论:获得一套完整的金融大模型工程化实践方法论,包括幻觉治理、数据工程建设、强化学习动态调优等技术路径,可以直接应用于同类场景
  • 安全工程认知:了解金融智能体全生命周期的安全工程建设,包括训练阶段的数据防护和推理阶段的实时管控,掌握数据投毒检测、提示词注入防御等关键技术的落地逻辑
  • 工程化效率提升:了解如何实现业务与技术的协同开发,提升开发效率,缩短需求迭代周期,提高代码复用率
  • 行业协作与技术演进方向:获得关于金融大模型工程化未来演进方向的前瞻分析,包括实时交易时延优化、多模态架构探索、监管沙盒验证等技术路径,以及行业标准共建的思路,为长期技术规划提供参考
  • 解决实际问题的能力:了解如何解决训练数据偏移、安全事件应急响应等问题,提升在实际工作中应对复杂问题的能力

by 唐渊圆

前 PayPal
资深研发经理和资深架构师

风险控制是互联网金融领域的核心议题,也是高度依赖数据分析和机器学习的关键环节。随着 AI 技术的快速发展,传统风险控制领域迎来了新的机遇与挑战。本次演讲将分享我们团队在真实欺诈对抗场景中对 AI 和大模型技术的探索与实践,重点介绍如何通过学习已有的欺诈案例,举一反三主动防御以提升风控防御能力,并结合大模型的能力探索和提高识别效率,总结相关经验与成果。

演讲提纲

1. 背景与现状

  • 互联网金融支付系统中的常见欺诈攻击类型与传统防御方法
  • 当前防御体系中面临的主要挑战与局限性

2. 主动式防御的探索与实践

  • 红蓝对抗:模拟真实攻击场景以提升防御能力
  • 故障注入:通过构造极端场景测试系统韧性
  • AI Agent 的引入:如何通过智能化技术实现效率与效果的双重提升

3. 未来展望

  • 主动式欺诈防御的技术演进方向
  • AI 在互联网金融安全领域的潜在应用与发展趋势

您认为,这样的技术在实践过程中有哪些痛点?

  • 复杂系统出现与预期不相符合时难以 debug
  • 多 Agent 系统的稳定性较难以保证

演讲亮点

  • 业界一般为被动式防御,在互联网金融领域的主动式攻击鲜有报导。本次分享在该领域较为创新的实践经验

听众收益

  • 启发风控同行在新的方向上进行探索
  • 共同探讨对于技术难点的思考与可能解决方案

by 陶万杰

马上消费金融
AI 研究院算法副总监

在金融业数字化加速的背景下,传统客服面临体验割裂、长尾需求难覆盖、人效瓶颈等核心挑战。本次分享将系统性解析如何通过大模型与多 Agent 协同技术,构建覆盖客户服务全生命周期的智能化跃迁方案:从进线前的意图预测与主动服务,到进线中的多 Agent 任务协同与复杂决策,直至人工坐席端的 Copilot 实时赋能,实现从“被动响应”到“主动关怀”、从“单点提效”到“全链路重构”的体验升级。

本次分享将深入解析大模型与多 Agent 协同技术驱动的全场景智能化跃迁实践,将结合金融机构的落地案例,揭示技术如何驱动服务效率、用户体验与业务价值的三重跃迁,为行业提供可复用的智能客服升级范式。

演讲提纲

1. 破局点:金融客服的体验困局与智能化机遇

  • 传统金融客服的三大痛点:响应滞后、体验割裂、长尾需求无人覆盖
  • 为什么单点引入大模型效果有限?从“问答机”到“服务伙伴”的认知转变
  • 真正跳出困境的契机:多 Agent 协同 + 全流程重构

2. ​技术底座:大模型驱动的多 Agent 协同架构设计

  • 整体架构:从用户进线到坐席辅助的智能调度中枢
  • 核心 Agent 角色定义与分工:路由 Agent、业务处理 Agent、决策 Agent、合规校验 Agent
  • 会话记忆与状态管理:如何实现跨轮次、多场景的连续对话?

3. 全场景跃迁实践:从预测到闭环的智能进化

  • 进线前:意图预测与主动服务——如何提前拦截30%+高频咨询?
  • 进线中:多Agent协作决策实战——用户同时问理财、贷款、投诉怎么办?
  • 坐席端:Copilot实战剖析——实时话术推荐、工单生成与情绪预警
  • 事后分析与强化学习:服务闭环与模型持续进化机制

4. 真实挑战与应对原则

  • 内容合规性 vs. 个性化表达:怎样既“像人”又不“乱说话”?
  • 幻觉控制与错误溯源:三道防线、实时校验与回退机制
  • 持续学习与人工反馈:如何建立“模型-坐席-用户”三角优化循环?

5、未来展望:从能力构建到生态赋能

您认为,这样的技术在实践过程中有哪些痛点?

  • 实时响应与生成质量之间的平衡:线上服务对响应速度有极高要求,而大模型在有限时间内生成的答案往往难以兼顾准确性与完整性
  • 内容可控性与个性化需求之间的矛盾:生成内容既要符合企业规范、避免风险,又需灵活适应用户个性化语境,两者难以同时最大化满足
  • 幻觉与错误信息的控制:大模型可能生成看似合理实则不准确或虚假的内容,尤其在开放域问答中,保障信息可靠性是一大挑战

演讲亮点

  • 基于多智能体协作的精准任务处理:通过分解对话流程,采用专项智能体协同(如意图识别、知识检索、回复生成及质检等),显著提升了复杂场景下的响应准确率和可控性,与传统单体模型相比有效减少了幻觉与逻辑错误
  • 全链路赋能的闭环优化机制:将大模型深度融入客服预处理、实时交互与事后分析全流程,不仅在对话中动态适配用户需求,还通过端到端学习持续优化服务策略,实现跨环节的系统性效能提升

听众收益

  • 了解金融客服“预测-协同-赋能”三阶跃迁的完整技术路径,覆盖从用户未进线到人工服务的全链路闭环设计
  • 掌握多 Agent 落地实战策略:获取可复用的 Agent 分工架构(路由/业务/决策 Agent 协同模式)及金融合规性保障方案,规避技术踩坑
  • 效能提升量化证据:基于金融机构案例,验证主动服务降低进线量、Agent 中枢提升解决率、Copilot 缩短处理时长等核心指标

交通指南

上海浦东滨江喜来登酒店

SHERATON SHANGHAI PUDONG RIVERSIDE
地址:上海浦东大道2288号
  • 微信咨询

  • 电话咨询

    联系电话:+86 18514549229

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手