高性能网关设计

会议室:上海厅(二层)
出品人:刘彦梅(喵吉)

作为整个业务产品的流量入口,API 网关应该把流量这个互联网最宝贵的资源管理的井... 展开 >

专题出品人:刘彦梅(喵吉)

淘天集团资深技术专家

淘天集团资深技术专家。2013年加入淘宝无线事业部,长期深耕于网关技术和无线APP网络传输领域,现任淘宝网络技术和集团统一接入 AServer 网关负责人,曾在集团终端委员会和移动技术小组负责网络技术,并具备十年以上的网关研发经验。

在 IETF 国际标准组织中,她作为第一作者提出 MPQUIC 标准草案并主导多路传输标准制定,推进多路传输成为 IETF QUIC 组核心标准,并曾在 SIGCOMM/NSDI 等网络学术顶会发表多篇论文。在开源社区方面,她作为发起人设计并实现了国内首个自研开源 IETF QUIC 协议栈 XQUIC,同时主导将 Tengine 网关演进为高性能云原生网关 Tengine-Ingress。

地点:上海厅(二层)

专题:高性能网关设计

作为整个业务产品的流量入口,API 网关应该把流量这个互联网最宝贵的资源管理的井井有条,在系统容灾、风控和大数据收集等方面发挥强大的作用。同时,网关作为一个业务产品的流量入口,又要提升自身的技术性能,保证不会被后端某个问题系统拖垮。可以说,API 网关是技术性能与运营效率兼顾的系统。

本专题会邀请一些知名公司专门从事 API 网关研发的团队讲述他们在 API 网关方面的经验,这些团队有着不同的业务背景,面临的问题有共性又有自己的特点,对网关有着自己独特的理解,希望能对大家的工作带来一些帮助。

by 韩佳浩

网易数帆
云原生网关团队负责人

云原生场景下的入口流量众多,从业务边缘流量到安全认证数据流,从传统的 API 统一暴露到 Serverless 的弹性流量,纷繁复杂的入口流量的统一纳管是一个复杂的课题。

本次分享介绍网易数帆基于高性能云原生网关建设云原生通用流量入口的实践。深入剖析构建云原生网关的架构,探索纳管云原生通用流量的可行性及落地经验。介绍在私有协议扩展、全链路灰度能力、业务平滑灰度上云、多集群建设、插件市场等实际业务场景下的最佳实践。

演讲提纲:

  1. 背景与趋势
    • 网关作为南北向流量入口的背景
    • 网关的核心诉求分析
  2. 云原生网关架构
    • 网易对云原生网关的探索:以 Envoy 为数据引擎,构建高性能云原生网关
    • 云原生网关架构 :设计目标、设计架构
    • 纳管通用流量 :融合网关纳管云原生时代通用流量,不局限于 API 网关
    • 开源 Hango 建设:能力及经验输出
  3. 云原生网关金融场景大规模实践
    • 私有协议扩展:以金融客户大量私有协议为出发点,在实践中探索支持多协议的通用扩展能力
    • 全链路灰度能力:以全链路灰度为场景,分享在实践中网关作为入口流量的最佳实践
    • 业务平滑灰度上云:网关作为入口流量的入口,协助业务平滑灰度上云,减少业务上云负担,提升稳定性
    • 插件市场:在敏捷开发场景下,支持快速对网关治理能力进行敏捷扩展
    • 多集群/两地三中心:高可用能力建设
    • 融合网关构建网关分组:隔离性-稳定性/机器成本/资源效率
  4. 总结与展望

听众收益点:

  • 了解到网易在云原生网关领域的大规模实践经验
  • 了解到云原生网关管理云原生时代的通用流量的技术路线及经验
  • 了解到云原生网关在金融场景落地的大规模经验

by 邓波

淘天集团
高级技术专家

Tengine 作为淘宝网发起的 Web 服务器开源项目,具备高性能、高可用特点,在进入云原生时代之后,存在的一些限制逐步凸显出来,如缺乏配置动态编排功能,用户侧流量可配置性和可观测性能力弱等问题。随着云原生 Ingress 入口网关规范的事实标准化以及淘天集团 Kubernetes 的大范围落地,也为 Tengine 的云原生化奠定基础。

Tengine-Ingress 网关基于 Kubernetes Ingress 标准,实现接入层的架构升级,技术底座在深度优化 Kubernetes/Ingress-Nginx 基础上融合 Tengine,不断提升自身性能和可用性,彻底根除痛点问题。同时由于淘天集团对稳定性的极致要求,扩展配置一致性和配置灰度生效能力,并将其反哺 Tengine 开源社区,保持对 Tengine 开源社区的持续输出。

演讲提纲:

  1. Tengine-Ingress 云原生网关背景
  2. 超大规模网关设计
    • 高性能低延迟
    • 云原生架构
    • 配置实时动态更新
    • 配置灰度发布
    • 超大规模配置全局一致性保障
    • 多维度精细化路由
  3. Tengine-Ingress 网关在淘天集团的应用
  4. 未来规划

听众收益点:

  • Tengine-Ingress 云原生网关架构,以及演进过程中的思考
  • 大规模网关稳定性保障所需具备因素
  • 云原生网关在大型场景下落地经验

by 陈华昌(空古)

小红书
基础技术部通用网关负责人

Edith 网关是我们为了更好地适应小红书特有的社交业务模式,解决业务扩展性和微服务治理问题,提高系统稳定性和效率而研发的重要 API 网关产品。

在小红书整体云原生技术的加持下,南北向接入架构进行了一次革命性升级。本次分享将从 Edith 网关的设计理念,核心功能,以及如何在实际业务中发挥关键作用这三个方面进行深入剖析。既有介绍网关研发所遇到的技术挑战和解决方案,又有介绍如何在保障C端用户体验的同时,还能有效地进行服务治理和稳定性建设。

演讲提纲:

  1. Edith 网关诞生历程和背景
    • 现实存在的问题,多次热搜事件
    • 主流解决方案的优劣分析
  2. 架构与设计
    • 小红书南北向接入架构设计
    • Edith 网关高可用架构设计,多租户跨云多活设计
    • 产品化设计
  3. 核心功能和业务落地实践
    • 元数据配置实时生效和灰度能力,版本快照能力
    • 个性化插件、实验平台、OpenAPI - 业务多样性落地
    • 稳定性能力:多维度流量控制、熔断、可观测、告警等
    • 性能优化和自动化提效
    • 业务服务通用降级能力(自动/手工)- 故障无感化
    • 故障演练和机房切流
  4. 未来展望
    • Serverless 化
    • 开源

听众收益点:

  • 了解小红书亿级 DAU 下南北向架构大规模落地经验
  • 了解 API 网关服务治理和稳定建设的实践经验

by 耿蕾蕾

阿里云
Higress & MSE 云原生网关负责人

Higress 的创建源于2020年阿里巴巴内部的“本地生活战役”,是一款标准化、高集成、易扩展、热更新的云原生网关,遵循 Kubernetes Ingress/Gateway API 标准,将流量网关、微服务网关、安全网关三合一,并在此基础上推出了 Wasm 插件市场在满足用户扩展诉求的同时也兼顾了网关自身的稳定性,高度集成 Kubernetes 和微服务生态,包括 Nacos 注册和配置、Sentinel 限流降级等能力,并支持规则变更毫秒级生效等热更新能力。

Kubernetes 已经成为云原生时代底层基础实施与上层业务应用的标准交互接口,由于 Kubernetes 天然内外网隔离的特性,如果内部服务需要对外提供服务能力,Kubernetes 提供了 Ingress Provider(微服务网关)来支持,但受限于 Kubernetes Ingress 自身的表达能力弱引发了一些列的使用问题,本次分享将介绍 Kubernetes Ingress 的局限性、社区的发展以及 Higress 是如何帮助用户解决这些问题的。

演讲提纲:

  1. 软件架构的演进介绍
  2. Kubernetes 下微服务的变化与趋势
  3. 现有 Kubernetes Ingress 的不足
  4. Higress 是如何帮助用户解决 Kubernetes Ingress问题
  5. Higress 的落地实践
  6. Higress Roadmap 规划

听众收益点:

  • 了解 Kubernetes Ingress 的现状以及社区发展趋势
  • 了解在 Kubernetes 下 Ingress Provider 的现状及最佳实践
  • 了解云原生时代 Higress 的大规模实践探索与经验

交通指南

上海中优城市万豪酒店

Shanghai Marriott Hotel Pudong South
地址:上海市浦东新区沪南公路7688弄上海中优城市广场1号楼1楼
  • 微信咨询

  • 电话咨询

    联系电话:+86 18514549229

领取往期热门演讲视频

领取往期热门演讲视频二维码
如您在购票过程中遇到问题,请扫码咨询票务小姐姐