LLM 应⽤从 Hard Coded 到 AutoAgent as Service 的技术演进脉络中，LLMOps 在其中举⾜轻重。本次演讲的核⼼重点在于深⼊剖析了私有化数据在 LLM 落地过程中的关键作⽤。通过透彻阐明私有化数据清洗与嵌⼊的技术原理，通过 RAG 索引增强⽣成、内容增强⽣成、模型增强的以及数据嵌⼊经济学的实践案例，全⾯系统诠释⾼质量私有化数据是实现 LLM 强⼤推理能⼒的基⽯。 最后，通过 Dify.AI 的开源实践共同解锁⼤语⾔模型的⽆限可能。

演讲提纲：

1. LLM 应⽤技术栈全景

• 解析当前 LLM 应⽤⼯程⾯临的挑战 ：从 Hard Coded 到 AutoAgent as Service 的⼯程演进
• 为什么需要 LLMOps：基于运⾏数据持续改进模型与应⽤
• 被低估了的 Prompt ⼯程：从 Design First 到 Prompt First 编程协作变⾰

2. ⼤模型应⽤落地挑战：私有化数据清洗与嵌⼊

• 私有化数据清洗与嵌⼊的技术原理：从嵌⼊到微调的技术阶梯
• 数据嵌⼊经济学：⾃定义分段模式、Q2Q 匹配⽅式与聚点萃取总结压缩⽅法
• 模型能⼒与检索的增强（RAG）：通过编排、索引、插件实现嵌⼊⽣成到推理⽣成的进化
• Dify 私有化数据清洗与嵌⼊实践：构建针对业务场景优化的 AI 应⽤

3. Dify.AI 的开源⽣态构建

• Dify 180 天的故事：开源产品的研发经历与挑战
• 依靠开源社区⽣态⼒量，让所有开发者低成本获得 LLM 应⽤开发的能⼒

你将获得：

• 全⾯解析 LLM 应⽤技术栈：学习当前 LLM 应⽤从 Hard Coded 到 AutoAgent as Service 的技术演进，以及 LLMOps 等⼯程化平台的作⽤
• 深⼊理解 Prompt ⼯程化：通过从 Design First 到 Prompt First 的转变，学习 Prompt 设计、优化的技术⽅法
• 系统掌握数据嵌⼊技术：全⾯解析数据嵌⼊的技术原理，经济学思考，以及 RAG 相关能⼒。体验 Dify 数据嵌⼊的⼯程化实践
• 开源⼯具应⽤指南：通过 Dify 等项⽬案例，学习如何利⽤ LLM 开源⼯具提升⾃身应⽤开发能⼒，降低应⽤落地成本
• 提升 LLM 应⽤开发技能：通过对 LLM 应⽤全流程的理解，获得应⽤需求分析、数据处理、Prompt 设计、模型训练、部署落地等⽅⾯的技术指导