专题演讲嘉宾：唐辉

大模型浪潮来临之后，我们期望通过模型、工程与产品的深度结合，能够真正解决 DevOps 用户的使用体验、效率问题，使用户普遍感受到智能化的变革和收益，保持用户满意的前提下催生出 AI 原生时代用户与产品间的全新交互。

在过去一年的建设中，我们在效果提升上，特别是准确性提升，建设数据飞轮，在意图识别、评论质量等方面，效果持续提升。针对性能反馈，我们实现了根据用户行为的预生成方案，在参数转换和提取等场景实现了结果复用，同时也根据场景的特点发展为了多模型协同的形式，以取得速度和效果的平衡。

此外，为了快速落地智能化改造，我们使用微前端、Deep Grasp 等技术去实现智能化的插件，让各个业务更快的完成智能化改造。本次将分享以上经验。

演讲提纲

1. 背景和早期探索

• 大模型浪潮
• 我们的早期探索

2. 落地的场景和取得的成果

• 在百度内我们落地的场景
• 探索新的交互形式：LUI
• 小众场景：将大模型用于性能优化、智能填充
• 成果：覆盖 60%多的用户，满意度提升到 88 分

3. 技术难点

• 如何快速落地
• 如何达到让用户满意的效果，留住用户
• 持续提升：半自动化的数据飞轮
• 更轻的交互形式 LUI 背后的实现：Deep Grasp

4. 总结与展望

• 经验总结
• 我们现在正在做的尝试
• 对未来工作的思考

听众收益：

• 了解百度 DevOps 产品是如何落地大模型技术的
• 了解产品落地大模型技术时的一些痛点
• 了解如何逐渐提升效果，让用户自然增长

方案痛点：

• 在落地过程中，会遇到大模型不稳定，用户对结果不满意
• 大模型响应慢，用户不愿意等待等问题。这些问题会让用户不断流失，如何让结果保证一定的准确性，保持一定的速度，让用户对结果基本满意，从而留住用户，是我们一直在解决的
• 大模型的改造不是一次性完成的，用户并不知道哪些功能可以被智能化检索到，不清楚智能化的全貌，会有不安全感，有时候反而会选择老办法一个个的点选完成任务