专题演讲嘉宾：李志伟

随着大模型和 AIGC 技术的快速发展，AI 正从云端向终端设备延伸；其以实时性、数据保密性和经济性的特点，吸引模型厂商、芯片厂商和终端厂商纷纷布局端侧小模型；本次演讲将围绕如何在低算力和安全保障之间选取平衡，搭建一套行之有效的端侧大模型安全方案。

演讲提纲

1. 端侧大模型发展趋势

• 端侧大模型的定义与分类
• AI 从云端向终端延伸的背景与驱动力
• 端侧小模型的兴起与生态布局

2. 端侧大模型面临的安全挑战

• 算力限制与模型性能的平衡
• 内容合规与应急处置
• 数据安全与隐私保护
• 系统安全与设备安全

3. 端侧大模型安全建设实践

• 端云方案对比
• 核心能力建设思路
• 终端大模型安全方案特点

4. 典型案例分享与展望未来

• 端侧大模型在智能设备中的安全应用案例
• 端侧大模型安全技术的未来发展方向

您认为，这样的技术在实践过程中有哪些痛点？

• 算力限制与监管合规要求之间的平衡，如何在低算力情况下最大限度的满足端侧内容审核的效果

演讲亮点

• 离线场景低算力情况下依旧可以支持多模安全审核

听众收益

• 将了解百度大模型安全的建设思路
• 结合案例可以了解一些端侧大模型合规建设的思考
• 开拓一些新思路，使用哪些方法建设“端侧大模型安全”