字节跳动基于 eBPF 的百万级主机网络可观测性实践与探索

所属专题:可观测性技术

嘉宾 : 林润⻰ | 字节跳动⾼级系统⼯程师

会议室 : 百宴厅1

讲师介绍

专题演讲嘉宾:林润⻰

字节跳动⾼级系统⼯程师
字节跳动 STE 团队⾼级系统⼯程师,从事主机监控、混沌⼯程、DevOps 等⽅向的研发⼯作。⽬前主要负责数据中⼼主机⽹络可观测系统的开发,从 0 到 1 完成了基于 eBPF 采集的百万级主机⽹络和可观测系统,为字节线上数万服务以及基础设施提供多维度的⽹络质量监控。

议题介绍

演讲:字节跳动基于 eBPF 的百万级主机网络可观测性实践与探索

⽹络连接的可观测性在互联⽹数据中⼼中⾮常重要,包括业务上下游的调⽤关系、实时流量,数据中⼼跨节点的实时流量和拥塞情况,特殊场景下,还需要额外关注如丢包、延迟、流量异常等。在⽹络异常的定位的过程中,我们期望能快速定位到受影响范围和根因,为业务运维提供有效⽀持,降低损失。

Bytemap 是字节跳动内基于主机⽹络监控数据打造的数据中⼼⽹络可观测平台,为各业务侧、及数据中⼼整体的⽹络基础设施提供多维度的⽹络质量监控。在具体实现上,我们通过主机内核的 eBPF 采集机制来获取基于连接层⾯细粒度的内核⽹络监控指标,通过实时数仓储存数据和对接流式分析平台。在产品层,我们通过与应⽤、主机的监控指标串联形成统⼀的监控产品。同时通过API和数据消费的形式,为多种运维场景提供⽀持。系统上线两年多时间运⾏稳定,多次为业务排障、业务流量容量规划预估提供了完备的数据⽀持,并且与多个运维场景相结合,解决其他场景中遇到的痛点问题,发挥价值。

演讲提纲:

1. 问题背景

  • 传统的监控系统通常只关注常⽤的⽹络指标,在⼀些故障场景下,需要更加精细化的观测能⼒以及关联分析能⼒来快速定位根因或提供排障信息。
  • eBPF技术提供强⼤的单机层⾯的内核观测与追踪能⼒,我们需要思考如何将这⼀能⼒从单机扩⼤到集群,甚⾄到⼤规模数据中⼼
  • 传统的应⽤监控往往依赖于应⽤程序内的埋点,我们需要思考如何能实现⽆侵⼊,⽆感知,低开销的追踪⽅法,为应⽤提供更加便捷的监控与观测能⼒
  • 微服务场景下的服务调⽤错综复杂,如何能有效梳理服务调⽤,实现⾼效率的服务治理

2. 解决思路

  • 精细化监控
  • ⼤数据处理
  • 多维度数据
  • 数据分析

3. ⼯程实践

  • 总体架构
  • 基于eBPF的数据采集
  • 数据仓库建设
  • 产品形态

4. 未来展望

  • 从有到优,解决瓶颈问题
  • 深度挖掘,提供更强的观测能⼒
  • 智能运维,结合算法分析能⼒,赋能运维场景

你将获得:

  • eBPF技术在数据中⼼监控与可观测性系统中的实践
  • 百万级服务器的监控系统的设计与实践

交通指南

上海宝华万豪酒店

Shanghai Marriott Hotel Parkview
地址:上海市静安区广中西路 333 号
  • 微信咨询

  • 电话咨询

    联系电话:+86 18514549229

微信联系我们

小姐姐 小倩