专题演讲嘉宾：申书恒

大模型时代，数据安全问题重要性愈加凸显，例如常见的大语言生成模型如 ChatGPT 和图像生成模型 Stable Diffusion 等需要大量的数据进行训练，这些数据中不乏个人信息、商业机密等隐私敏感信息，暴力、恐怖、涉政等法律违规信息，以及部分训练数据的知识产权信息等。确保大模型生成内容的数据安全变得尤为关键。

在过去的一年中，我们在大模型主体的数据安全测评以及实时调用大模型时的内容数据安全检测方面进行了一些系统性的思考和设计，本次演讲将分享我们的实践与探索。

演讲提纲：

1. 大模型时代的数据安全威胁

2. 大模型主体的数据安全测评体系

3. 大模型应用时输入内容和生成内容的数据安全检测系统

听众收益：

• 了解大模型时代带来的数据安全挑战
• 共同探讨大模型数据安全问题上的测评方案和防御系统

方案痛点：

• 数据安全检测需要做到既准又全，同时保障用户体验和风险可控
• 由于大模型本身的推理耗时已很高，为保障用户体验，对数据安全检测系统的效率要求极高