随着AI的发展，应用对AI需求的爆发，日益增加的业务复杂性和急剧扩张的业务规模给稳定性带来了极大挑战。为了能在平台稳定性方面取得质的提升，讯飞 AI Cloud 运维团队在 2018 年开始向 SRE 团队转型，针对 AI 业务的特性，基于容器等相关技术建设 SRE 系统工具，并在 2019 年创造了 212 天无故障的记录。本次演讲将重点分享讯飞 AI Cloud 是如何通过容器、Kubernetes、Prometheus 等云原生技术栈与 SRE 理念的结合，实现 SRE 系统工具的建设，以及在 SRE 团队转型方面的经验和思考。

演讲大纲

1. 团队 SRE 转型

• AI服务运维的难点和挑战
• 传统运维向SRE的转型实践

2. 基于 Prometheus、Zabbix 的问题发现

• AI 服务全链路的多维指标采集和根因分析
• AI 服务海量监控指标下的告警信噪比优化

3. 基于 APM、EFK 的故障处理：

• 大规模 AI 服务的快速排障和应急实践
• 故障自愈探索实践

4. 基于 Kubernetes 的容量管理

• AI 服务超大模型资源的快速更新实践
• 跨 AI 服务的自动化弹性调度实践

听众收益

• 了解传统运维向 SRE 转型的实践经验和收益
• 了解讯飞 AI Cloud 基于云原生技术加速SRE转型的实践经验
• 了解讯飞 AI Cloud 在监控指标采集、根因分析和告警优化上的实践经验
• 了解讯飞 AI Cloud 在快速排障、故障自愈上的探索实践
• 了解讯飞 AI Cloud 在自动化容量管理上的实践经验