大数据计算还在不断成长成熟,生态正在蓬勃发展,大数据计算平台也成为了各大公司的重... 展开 >




目前就职于eBay中国研发中心,负责eBay全球大数据平台产品,支撑内部的业务部门。曾经任职于开源大数据公司Cloudera和Intel亚太研发有限公司,有10年的大数据平台以及应用架构经验,参与并设计了国内Tier 1金融、电信以及金融科技的大数据平台架构。
大数据计算还在不断成长成熟,生态正在蓬勃发展,大数据计算平台也成为了各大公司的重要基础设施。近年来,对于实时要求的场景越来越多,这推动了大数据技术向着实时化的方向迈进。本专题主要介绍大数据计算和实时分析领域的技术革新突破。
过去几年,字节跳动的 OLAP 引擎经历了百花齐放到逐渐收敛,再到领域细分精细化运营优化的过程。目前基本形成了 ClickHouse 承担 BI 报表类查询,Presto 解决 adhoc 分析,SparkSQL 支撑超大体量复杂分析及离线 ETL的格局。不同引擎的用法不尽相同,如何降低用户使用成本,提升用户体验,变得尤为重要。
同时,内部大量自研及开源存储系统,有的不具备 OLAP 能力。如果能低成本赋予它们分析能力,将能让沉睡的数据重新产生价值。
本次分享,我将介绍字节跳动联邦 OLAP 平台 ByteQuery 如何通过统一 SQL 标准,统一 SQL 优化,同时支持一致的 UDF 方案,让用户不用再关心底层的查询引擎,拥有一致的极致查询体验。同时介绍如何支持异构数据源的联合分析。
在数据湖 1.0 时代,Hadoop 部署时存储与计算固定,不能单独扩展,近年来业务需求多种多样,计算与存储资源一直很难相匹配,造成计算或存储资源大量闲置。随着带宽的提升,云原生技术的发展,数据湖渐渐衍生到 2.0 时代,存储与计算可单独发展,让系统获得更大的灵活性。在阿里云,分别以 DLA、OSS、Lindorm 为代表的云原生数据湖技术,分别从分析、计算、元数据管理、存储数据集管理、存储等方面突破,均取得较多的创新与业务实践。本次将会分享这些技术点与实践点,以供有需求的同学参考。
HTAP (Hybrid transaction/analytical processing) 是近年数据库界重点关注的研究方向。这种架构打破了在线交易业务与分析业务之间的壁垒,在全面支持关键在线交易业务的同时,让业务数据得以被实时分析和处理,极大提升业务决策和平台构建效率,形成业务全链路闭环,从而成为未来企业的核心竞争力之一。
作为一个从大数据转行做数据库的人,我自以为能感受到两个世界的异同。随着 TiDB HTAP 在 5.0 的补强,TiDB 用于实时数仓和实时分析场景变得越发成熟,本次分享将介绍 TiDB HTAP 的新进展以及如何利用这些进展构建实时数仓以及实时分析决策平台。



微信咨询

电话咨询
领取往期热门演讲视频

