专题演讲嘉宾：王亚普

AI 技术的爆发式增长对可观测性的挑战和新需求：如何保障 AI Infra 和 AI 应用的稳定性、性能和可靠性，可观测平台也从“服务业务”到“服务 AI ”再到“自身智能化”的演进趋势。AI 正在重塑可观测平台的能力边界：需要对 AI 基础设施、训练/推理有一定了解，才能提供真正有效的可观测能力；从传统的数据呈现/检索工具，变成具备洞察力和决策辅助能力的智能系统。本次分享我会结合小红书在 AI 领域不同方向解决痛点问题的经验探索，详细分享其中一些重点技术的实践和落地，希望能给听众带来一些启发和思考，欢迎多多交流。

演讲提纲

1. 小红书可观测在 AI 时代面临的挑战

2. AI Infra 观测：稳定性体系建设

• 业务痛点以及对 AI Infra 稳定性的要求
• GPU 基础设施保障：解决算力故障的资源浪费问题
• 训练任务的稳定性保障：训练 Hang 的发现与定位、训练效果观测
• 业务实战案例分享

3. AI 应用观测：全链路监控的落地实践

• AI 应用的快速发展对可观测基建的挑战
• AI 应用全链路监控的解决方案
• 业务实战案例分享

4. 可观测 AI Agent 场景建设与落地

• 围绕稳定性工程的 AI + 建设思路
• 可观测 AI + 架构设计
• 最佳实践分享

5. 未来规划

您认为，这样的技术在实践过程中有哪些痛点？

• 环境异构挑战：内部训练框架多元、GPU 品牌参数与型号参差不齐，难以制定一套兼顾所有场景的通用解决方案
• 在千卡甚至万卡集群训练时，任务 Hang 住所有 Pod 表现都是卡死，故障种类较多且故障定位的工作非常复杂
• AI 应用的全链路追踪对于现有基建存在很多兼容性的挑战，需要考虑现状和业界发展趋势找到合适的落地路径

演讲亮点

• GPU 故障诊断、训练 Hang 故障发现与定位可复制的工程经验
• 可观测 AI Agent 产品化落地的思路，融合传统 AIOps 能力与大模型的落地实践

听众收益

• 了解大规模训练过程中 Hang 的问题发现和自动化诊断
• 了解业务 AI 应用端到端链路监控的建设思路
• 了解 AI + 可观测的产品设计思路和技术架构