本次演讲将结合内容风控场景的实践,聚焦“精度、效率、成本、性能”核心问题,从“解决方案、模型、数据、部署”角度出发,充分结合大模型复杂场景理解能力强、泛化能力强、创造能力强的优势,同时结合小模型低成本低时延、定制敏捷、可控性高的特点,打造效果精准、实时响应、迭代敏捷、成本优化、稳定可靠的新一代数字内容风控系统。
演讲提纲
- 背景与挑战
- 精度:通用泛化与领域适配
- 效率:敏捷迭代与增量更新
- 成本:数据成本与计算资源
- 性能:高并发与低时延
- 大小模型协同与精度提升
- 多级动态推理大小模型协同架构
- 多阶段大小模型蒸馏
- 领域适配与高效微调
- 实践效果与案例-复杂风险治理效果提升
- 小样本学习与效率增强
- 属性感知特征描述
- 多模态小样本原型
- 幻觉与注意力增强
- 实践效果与案例-新型风险识别敏捷响应
- 数据挖掘与成本控制
- 可控训练数据生成
- 多模态半监督学习
- 基于大小模型协同的主动学习
- 实践效果与案例-大规模风险管控轻量标注
- 动态推理与性能优化
- 多级动态网络
- MOE
- 实践效果与案例-海量风险处理实时性
- 未来展望
这样的技术在实践过程中有哪些痛点?
- 整体解决方案层面如何设计动态决策机制,用少的计算来处理简单case,用复杂的计算处理困难的case。实现效果与性能的平衡。
- 训练数据挖掘与生成,如何同时提升数据的准确性、差异性、有效性。
- 异构架构蒸馏,难度较大。
- 面向某个单点问题更新,如何不影响全局,实现增量更新。
演讲亮点
- 覆盖“效果-效率-成本-性能”全栈视角,全面阐述大模型时代业务场景落地实践。
- 聚焦垂直业务场景,分析大模型在通用场景和垂直场景的异同。
- 面向现实问题,比如如何增量更新尽量不影响已有能力、如何敏捷迭代缩短周期、如何减少标注节约成本等等。
听众收益
- 了解垂直领域与通用领域,大小模型研发应用的异同。
- 了解大小模型协同、多模态小样本学习、多阶段知识蒸馏、动态网络等关键技术的实战经验。
- 学习下一代AI系统的发展趋势,对未来大小模型的发展方向有一定的了解。