相对于传统的机器学习与深度学习，以 GPT3 为例的大模型涌现出处理各类任务的新范式：zero-shot、few-shot、in-context 等，同时也支持深度学习领域的 Finetune。在腾讯 LLM 应用框架应运而生，将 AI 模型能力同向量数据库，提示工程，文本检索，外部知识，外部工具结合，对任务进行规划和编排，为模型提供长期记忆的能力。框架让大模型能够低成本、快速处理各种任务，极大的缩短了数据准备与工程开发流程，弥补大型模型能力和实际应用之间的鸿沟。本次演讲将分享以上经验。

演讲提纲：

1. LLM 简介

• 大语言模型预训练
• 大语言模型推理

2. LLM 应用框架

• 总体设计架构
• Prompt 模块
• Tools 模块
• Memory 模块
• Planning 模块
• LLM 的可视化
• LLM 移动端推理
• LLMWeb 端推理

3. LLM 在文档业务探索

• LLM x PDF
• LLM x Excel
• LLM x Doc

你将获得：

• 想清楚业务的 AI 形态和价值
• 理解清楚哪些问题是大模型解决的，哪些是传统机器学习解决的
• 了解如何为业务定制大模型