大模型数据安全：从测评到实时检测的全流程实践

所属专题：大模型助力数据安全

嘉宾 : 申书恒 | 蚂蚁集团大安全风险图、端智能、全网巡检算法负责人

会议室 : 国粹厅

讲师介绍

专题演讲嘉宾：申书恒

蚂蚁集团大安全风险图、端智能、全网巡检算法负责人

蚂蚁大安全风险图、端智能、全网巡检算法负责人，专注于机器学习、图算法、大模型算法在风控领域的创新和落地应用。带领团队提出多种风控特色的创新算法产品，包括 GeaSec、端边云风控、寻路机器人等，为蚂蚁风控提供了坚实的中台数据算法底盘。此外，支持蚂蚁大模型数据安全检测工作，推动 GraphRAG 产品为大模型安全测评与上线应用保驾护航。

议题介绍

地点：国粹厅

所属专题：大模型助力数据安全

演讲：大模型数据安全：从测评到实时检测的全流程实践

大模型时代，数据安全问题重要性愈加凸显，例如常见的大语言生成模型如 ChatGPT 和图像生成模型 Stable Diffusion 等需要大量的数据进行训练，这些数据中不乏个人信息、商业机密等隐私敏感信息，暴力、恐怖、涉政等法律违规信息，以及部分训练数据的知识产权信息等。确保大模型生成内容的数据安全变得尤为关键。

在过去的一年中，我们在大模型主体的数据安全测评以及实时调用大模型时的内容数据安全检测方面进行了一些系统性的思考和设计，本次演讲将分享我们的实践与探索。

演讲提纲：

1. 大模型时代的数据安全威胁

2. 大模型主体的数据安全测评体系

3. 大模型应用时输入内容和生成内容的数据安全检测系统

听众收益：