近年来降本增效成为许多公司技术团队的重要工作方向，特别是上云后，云的便利性同时带来云开支的不可控，如何有效控制云开支成为上云后大家需要面临的问题。而在 IT 成本组成上，大数据相关基础设施的成本占不小比例，不少公司甚至超过一半以上。本演讲将分享贝联珠贯在开源大数据平台成本优化方面的技术实践。通过大数据任务参数动态优化、自动引擎升级以及 SQL 优化等自动优化手段，对数十家客户超过百万的大数据任务进行优化，节省了超过 500TB 内存和 15 万 CPU 核的计算资源。

演讲提纲

1. 问题与背景

2. 云上大数据平台成本优化的技术挑战

3. 优化方案：大数据任务参数动态优化

4. 优化方案：自动引擎升级

5. 优化方案：自动SQL优化

6. 实践案例分享

7. 总结与展望

您认为，这样的技术在实践过程中有哪些痛点？

• 任务动态参数优化是一种基于历史数据的优化技术，适用于具有周期性的大数据任务（如天级/小时级任务），随机的 Adhoc 查询缺乏历史实例，则无法适用此项优化技术
• 客户对生产稳定性极为看重，优化实施过程中需要有一套稳定性保障机制，确保不因为优化实施导致任务异常

演讲亮点

• 优化收益明显，大部分实施案例可节省资源 30% 以上
• 全自动任务优化，极小人力投入成本
• 实施成本低，任务参数动态优化和自动引擎升级，零业务代码变更

听众收益

• 可以帮助相关从业人员了解或学习大数据平台成本优化的主要技术方案，并在日常工作中进行运用

眼下，云计算已成为众多互联网企业支撑业务运行的关键基础设施，然而云计算的便利性和灵活性也带来了一系列资源成本管理挑战，包括成本增速过快、成本归属不清晰、缺乏有效成本控制手段、对云厂商高度依赖等。本次分享，将重点介绍小红书的 FinOps 实践经验，并通过技术优化手段提升资源使用效率，每年节省数亿成本。

演讲提纲

1. 小红书用云概述
2. 成本优化面临的问题与挑战

• 分摊云成本与实际资源用量存在偏差
• 资源规模不断增长但利用效率持续低下
• 大模型的部署与运行成本高昂

3. 成本洞察与优化实践

• 技术商品化实现内外账分离
• 大 Node 小 Pod 策略下的在线业务混部
  • 工作负载性能瓶颈分析
  • 机型收敛与 RightSizing
• 内容大模型的降本增效
  • 多维并行提升训练效率
  • 量化蒸馏压缩模型大小
  • 算子优化提升推理速度

4. 总结与展望

这样的技术在实践过程中有哪些痛点？

• 常规按比例分账方法能帮助测算出各业务部门的资源成本费用，但不一定能解释清楚其背后的量价对应关系，进而影响了技术优化方向判断
• 云厂商硬件经过虚拟化后，不同规格大小虚拟机会存在跨 numa、共用一个 Socket 产生干扰，进而表现出内存性能差、业务 CPU 使用率明显分层、服务 RT 抖动明显等问题，云上客户不得不开通更多资源降低容量水位来保证在线服务不受损，最终造成了成本浪费
• 高昂的训练和推理成本、高硬件需求、资源利用效率低下，这些问题限制了内容大模型的广泛应用和普及，需要通过技术创新和优化策略来解决

演讲亮点

• 重点聚焦于建立清晰、透明的成本洞察机制以及配套系统能力建设，尝试分别从买卖家视角梳理清楚各自团队的资源用量、技术成本支出以及收入情况
• 看清、看准、分析出系统关键性能瓶颈，通过机型迭代、内核优化等措施确保各业务具备将CPU跑高的能力，进而执行缩容退机操作达到降低成本的目标
• 分别从数据、训练、压缩、推理等方面介绍小红书对于内容大模型的降本增效实践

听众收益

• 可以帮助相关从业人员了解或学习云成本优化的主要技术方案，并在日常工作中进行运用

在云原生与 AI 浪潮下，云的资源扩展能力和使用便捷性让企业能够更加专注于业务创新，同时，如何用好云也成为大家持续探索的课题，特别是上云之后面临成本失控的风险，包括云产品品类多而杂、多云环境差异大、成本波动难分析、AI 算力成本快速增长等。本次分享将介绍好未来在云上资源效能优化方面的实践，通过搭建 FinOps 运营体系以及技术治理体系实现上亿元的成本节省。

演讲提纲

1. 好未来云资源布局

2. 云成本治理面临的挑战

• 多云异构管理难题
• 资源冗余与高可用矛盾
• AI 算力需求激增

3. FinOps 运营体系搭建

• 成本分摊与归因机制
• 自动化治理空间分析
• 基于业务 ROI 的指标体系

4. 资源效能优化的技术方案

• 精细化弹性容量管理
• 多云布局调优
• AI 算力成本优化、训推、异构混部等

5. 总结与展望

您认为，这样的技术在实践过程中有哪些痛点？

• 多云环境的异构性使得统一纳管和成本分析难度大幅增加，特别是在使用的云产品品类众多的情况下，很难有效的发现和识别不合理的云成本支出，也无法解释云账单波动
• 云资源使用的灵活性是一把双刃剑，高可用和资源冗余之间的冲突在一定程度上会被放大，如果无法说清楚不同业务场景下云资源投入产出目标，具体的技术治理策略很难落实
• 生成式大模型的发展推动AI算力需求激增，AI 算力成本快速增长，既要快速迭代，又要确保成本可控，而分布式训练和推理架构的复杂性推高了算力成本优化的门槛

演讲亮点

• 多云架构下的 FinOps 运营体系建设方案，实现集团各业务在多云的成本分摊和波动分析；基于不同云产品特性实现自动化的治理空间分析与用云策略建议
• 建立围绕业务资源效能的北极星指标体系，转变问题视角，从成本问题到业务投入产出问题；通过设计精细化的弹性容量管理方案、多云布局调优等实现降本增效
• 基于内部 AI 算力成本治理的实践，包括训推服务的算力调度、负载均衡及异构混部等方案，提升算力资源的综合使用效率

听众收益

• 可以帮助相关从业人员了解或学习云成本优化的主要技术方案，并在日常工作中进行运用