字节跳动引领微服务革新：Serverless 架构演进与实践

所属专题：演进式架构

嘉宾 : 阔鑫 | 火山引擎Serverless 高级经理

会议室 : 钻石厅D

讲师介绍

专题演讲嘉宾：阔鑫

火山引擎Serverless 高级经理

阔鑫，火山引擎云原生 Serverless 高级经理/产品研发负责人，卡内基梅陇大学计算机工程专业毕业；2019 年加入字节跳动，先后负责字节跳动内部 Serverless 计算平台的多区域容灾架构，以及与字节微服务体系的融合；从 2022 年开始带领团队开发火山引擎 Serverles 计算产品 veFaaS，负责产品的研发迭代及对外商业化能力输出；期间也主导了字节跳动集团内部技术栈的融合统一，以及集团 Serverless 业务上火山的迁移；在此之前曾在亚马逊 AWS 作为研发工程师参与了AWS Serverless 计算产品的开发迭代。

议题介绍

地点：钻石厅D

所属专题：演进式架构

演讲：字节跳动引领微服务革新：Serverless 架构演进与实践

字节跳动从 2018 年就开始了大规模云原生容器化部署的实践，依托于内部 TCE Toutiao-Compute-Engine 计算平台，推动核心业务方完成了的云原生容器化改造，，并借助在离线混布、集群联邦、混合调度等技术手段。与此同时，我们也在积极的探索容器技术的下一步。Serverless 团队早期聚焦于函数计算、批处理任务形态，2022 年字节跳动 Serverless 计算平台基本收敛了集团内部的事件驱动/消息队列消费的业务场景，在此基础之上，我们希望借助 Serverless 技术体系，助力集团业务的微服务进一步降本增效。

本次演讲我将重点介绍 2023 - 2024 年，字节架构 Serverless 团队依托于电商、直播等核心业务方，在微服务 Serverless 化方面做的技术工作，分享业务支撑过程中碰到的问题与痛点，抛砖引玉。

演讲提纲

1. 字节云原生技术体系介绍

字节 2016 年开始大规模容器化部署的过程：Toutiao Compute Engine
字节微服务：基于 Golang Thrift RPC 框架的 ServiceMesh 体系
容器化部署方案碰到的问题：
2019 年开始 Serverless 技术栈的投入：字节 ByteFaaS

2. 字节跳动 Serverless 技术体系

一套 Serverless 流量调度基座
多种上层计算产品形态：函数计算，异步任务，Serverless 微服务

3. 早期几次不太成功的推广尝试

尝试 1 ：框架层面进行侵入性改造，基于 Thrift IDL 生成 HTTP 服务代码，适配计算平台
- 反思：计算平台应该适配业务研发生态
尝试 2 ：函数计算支持 RPC 服务，同时与 Mesh 集成
- 反思：作为函数计算起家的研发团队，拿着锤子找钉子
其他问题
- 与用户开发习惯差别太大
- 用户对稳定性的担忧
- 还是冷启动、扩容速度

4. 2023-2024：微服务 Serverless 化：助力微服务体系演进

与其引导客户使用一套新的函数计算开发范式，不如思考如何让函数计算的底层计算调度能力适配微服务开发体系
产品层面
- 与微服务开发平台整合，作为底层计算运行时；用户无需更改代码
- 容器负载与 Serverless 弹性负载混合使用：
- Service Mesh 整合进计算运行时内部，对齐微服务流量治理研发生态
技术层面
- 微服务体系集成：流量转发与资源调度解耦
- 容灾体系：全托管的计算形态下，多集群、多 az 容灾
- 弹性伸缩：基于业务指标增强的 autoscaling 与过载保护
冷启动：资源池化 + 容器进程快速拉起 + 闲置实例的多条技术路径，解决不同类型用户对突增流量冷启动速度的诉求
业务试点与推广：以直播业务为例，分享业务在微服务 Serverless 方案下的成本和性能收益