大模型在行业落地应用时遇到了推理残差能力不足、专业知识缺乏、反馈循环效率低和安全单点等问题。尤其在可靠性要求高的安全攸关领域,这些局限性严重影响了大模型的广泛应用。
本次演讲将重点介绍如何通过以原生安全范式构建原生安全底座,安全平行切面为数据采集和干预底座,DKCF(Data/Knowledge/Collaboration/Feedback,即数据/知识/协同/反馈) 可信推理范式构建智能化底座,落地安全运营与安全治理领域。该框架在实际落地中有效提升了整体 MTTD(Mean Time to Detect,即平均故障检测时间)、MTTC(Mean Time to contain,即平均遏制时间);并在安全治理领域,也有效提升安全评估与安全审批的工作效率。该体系的落地经验,对于其他专业领域可信落地大模型,同样存在较大的借鉴意义。
演讲提纲
1. 大模型在行业落地应用时的主要问题
- 推理残差能力不足,难以发现推理过程中的知识不足或者能力不足
- 专业知识缺乏,缺少具体领域以及具体企业的知识与信息
- 反馈循环效率低,新知识新能力的反馈迭代速度慢、成本高
- 安全单点
2. 蚂蚁集团的“切面融合智能体系”建设
- 安全平行切面为数据采集和干预底座
- 基于 DKCF 范式的可信推理为智能化底座
- 基于 NbSP & OVTP 原生安全范式为建设原则构建原生安全底座
3. NbSP & OVTP原生安全范式
- NbSP 范式解决智能体访问点安全检查问题,确保安全检查点不可被绕过
- OVTP 范式解决智能体工作合法访问溯源
4. “切面融合智能体系”在反入侵威胁对抗领域的应用案例
- 传统 SOC 的困境
- AIGC 落地 SOC 的挑战
- “切面融合智能体系” 在反入侵威胁对抗领域的核心能力:
- 基于 DKCF 范式的推理可行度验证、幻觉检测、知识工程管理
- 智能降噪/分诊
- 基于 SOP 的研判智能体
- 通用研判智能体,自动规划、编排、线索探索与归纳
- 基于 SOP 的智能响应与止血
- 交互式事件调查与溯源
4. “切面融合智能体系”在安全治理领域的应用案例
- 安全审批场景介绍
- 基于提示语/SOP 编程的安全审批
- 提示语/SOP 编程与自动化编排 SOAR 的区别
您认为,这样的技术在实践过程中有哪些痛点?
- 大模型落地时,需要录入大量领域、企业特有的知识,这块需要大量的数据收集、知识提取的工作
- 实际落地时会综合考虑性价比,综合使用大模型、小模型和专家策略,全盘使用大模型不一定会是最佳方案
- 通过切面技术接入更多业务和应用数据会有利于大模型作出更加准确全面的判断,但是这样对于企业部署切面有了更高的要求
演讲亮点
- 解决了大模型落地网络安全领域时的内视能力缺乏、幻想不可信等问题
- 探索了安全治理方面使用大模型
- 从实践中提炼了技术体系:“切面融合智能体系”
听众收益
- 了解蚂蚁集团一些前沿的安全技术和成果
- 开拓一些新思路,用新方法如何解决网络安全问题
- 目前领域相关的挑战,以及大模型结合的情况下未来的展望