GenAI 时代如何构建高效、安全、实时的数据处理架构

所属专题:下一代 Data for AI 技术架构

嘉宾 : 史磊 | Redis高级架构师

会议室 : 钻石厅A

讲师介绍

专题演讲嘉宾:史磊

Redis高级架构师

史磊,现担任 Redis 高级架构师(Senior Solution Architect) ,致力于使用 Redis 企业版为客户提供产品架构方案咨询及设计、性能优化、Redis 技术的应用及推广等服务。他拥有超过十年的软件架构设计开发、大数据系统调度及优化、计算机视觉、金融科技人工智能等方面的产品及技术研发经验,拥有九年多的Redis开发、运维及使用经验。在加入 Redis 之前,他曾任新加坡某金融科技创新公司的人工智能架构负责人(Head, AI Architect)、新加坡国立大学数据科学研究所(Institute of Data Science, NUS)首席架构师等职位。

议题介绍

演讲:GenAI 时代如何构建高效、安全、实时的数据处理架构

过去的一年中,我们共同见证了生成式AI从起步到狂奔、再到各行各业的遍地开花。与此同时,生成式AI应用也对数据处理架构提出了新的挑战:如何在海量的私有数据中构建更加安全、更加准确、更加稳定、更高吞吐的 AI 应用,并满足用户对实时性的需求。

在本次分享中,我们将从 Redis 原厂的视角,结合 Redis 全球客户的使用案例,探讨 Redis 是如何在生成式 AI 时代应对数据处理平台的如下挑战:

  • AI 应用层:内存向量数据库及 RAG 应用设计
  • AI 存储层:内存向量数据库如何应对大数据量的查询请求
  • AI 加速层:内存数据库作为在线特征存储的使用及调优

除此之外,本次分享也会简要介绍 Redis 8.0 的新功能及特性,更好地协助用户构建生成式 AI 实时系统。

演讲提纲

1. 现状与挑战

  • GenAI 时代的新需求
  • 现有数据处理系统架构的不足
  • 数据量与数据处理速度的取舍

2. 内存向量数据库

  • Redis 技术方案
  • 功能及性能优势

3. RAG 应用落地的痛点及解决方案

  • RAG 应用经常面临的问题
  • Redis 作为 RAG 应用的优势
  • 案例分享:金融业 RAG 使用场景及调优设计

4. 内存数据 vs 磁盘数据:速度与持久性的取舍?

  • 内存 + SSD 混合存储的技术难点
  • Redis 混合存储方案—— Redis Flex
  • 案例分享:Redis 混合存储使用场景及注意问题

5. 内存特征数据库

  • Redis 在线特征数据库的技术优势
  • 案例分享:在线特征数据库的使用场景

6. 总结与展望

实践痛点

  • GenAI 时代新的应用及框架层出不穷,用户很难做出选择
  • 不同 AI 应用很难协同运作,导致架构复杂,使用难度较高
  • Redis 版本过多,导致技术选型及架构设计很难统一
  • 国内客户对 Redis 原厂的最新技术及用例了解相对有限

演讲亮点

使数据架构同时满足安全性、准确性、稳定性、实时性、高吞吐需求的实践经验

听众收益

  • 了解 GenAI 实时处理数据架构的需求及解决方案
  • 了解 Redis 社区版 8.0 的全新特性
  • 了解 Redis 在不同行业 GenAI 应用的架构设计

交通指南

上海中谷小南国花园酒店

China Grain Hotel
地址:上海市杨浦区佳木斯路777号(近营口路口)
  • 微信咨询

  • 电话咨询

    联系电话:+86 18514549229

微信联系我们

如您在购票过程中遇到问题,请扫码咨询票务小助手