过去的一年中,我们共同见证了生成式AI从起步到狂奔、再到各行各业的遍地开花。与此同时,生成式AI应用也对数据处理架构提出了新的挑战:如何在海量的私有数据中构建更加安全、更加准确、更加稳定、更高吞吐的 AI 应用,并满足用户对实时性的需求。
在本次分享中,我们将从 Redis 原厂的视角,结合 Redis 全球客户的使用案例,探讨 Redis 是如何在生成式 AI 时代应对数据处理平台的如下挑战:
- AI 应用层:内存向量数据库及 RAG 应用设计
- AI 存储层:内存向量数据库如何应对大数据量的查询请求
- AI 加速层:内存数据库作为在线特征存储的使用及调优
除此之外,本次分享也会简要介绍 Redis 8.0 的新功能及特性,更好地协助用户构建生成式 AI 实时系统。
演讲提纲
1. 现状与挑战
- GenAI 时代的新需求
- 现有数据处理系统架构的不足
- 数据量与数据处理速度的取舍
2. 内存向量数据库
3. RAG 应用落地的痛点及解决方案
- RAG 应用经常面临的问题
- Redis 作为 RAG 应用的优势
- 案例分享:金融业 RAG 使用场景及调优设计
4. 内存数据 vs 磁盘数据:速度与持久性的取舍?
- 内存 + SSD 混合存储的技术难点
- Redis 混合存储方案—— Redis Flex
- 案例分享:Redis 混合存储使用场景及注意问题
5. 内存特征数据库
- Redis 在线特征数据库的技术优势
- 案例分享:在线特征数据库的使用场景
6. 总结与展望
实践痛点
- GenAI 时代新的应用及框架层出不穷,用户很难做出选择
- 不同 AI 应用很难协同运作,导致架构复杂,使用难度较高
- Redis 版本过多,导致技术选型及架构设计很难统一
- 国内客户对 Redis 原厂的最新技术及用例了解相对有限
演讲亮点
使数据架构同时满足安全性、准确性、稳定性、实时性、高吞吐需求的实践经验
听众收益
- 了解 GenAI 实时处理数据架构的需求及解决方案
- 了解 Redis 社区版 8.0 的全新特性
- 了解 Redis 在不同行业 GenAI 应用的架构设计