众所周知，大模型并不具备专业的领域知识，往往在回答中产生模型“幻觉”。本演讲将回顾一些让大模型具备专业知识能力的方法，包括领域微调和检索增强的方法，并比较这两类方法的优劣。在此基础上，我们将进一步探讨检索增强的大语言模型中的关键技术，包括全景文档结构识别和 Embedding 模型，以及这些关键步骤对回答质量的影响。希望听众能从中了解大模型知识问答的相关技术知识，并激发可能的应用。

演讲提纲：

1. 大模型的基本原理

• 预训练的训练目标
• ChatGPT 的野心与关键因素
• 大模型现存的问题

2. 面向专业领域的大模型知识问答

• 领域微调与检索增强方法对比
• 面向专业领域的检索增强关键技术
• 全景文档结构识别
• Embedding 模型

3. 现有方法效果对比应用场景展望

你将获得：

• 了解大模型的能力来源及目前存在的问题
• 了解利用领域文档进行专业问答的关键因素有哪些

语言大模型的出现，大大提升了人机语言交互能力，大模型的研究与应用成为当下学界与产业界共同的热点。然而，实际应用过程中，大模型在专业知识的丰富度和深度上都不足以达到落地解决实际问题的程度。我们结合实际经验，探讨了大模型落地中的核心要素：数据、微调、知识增强和模型评测。希望听众能从中了解大模型实际赋能业务的具体有效的实现路径。

演讲提纲：

1. 大模型研究概述大模型的训练

• 国内大模型现状
• 大模型落地痛点

2. 法律大模型构建

• 大模型二次预训练
• 指令微调训练
• 训练数据分布
• 数据筛选与改造

3. 模型增强

• 知识库构建
• 意图识别算法强化
• 知识增强

4. 大模型演进思考

你将获得：

• 了解垂直领域与通用大模型之间的 Gap
• 了解以大模型为代表的 AI 技术实际落地场景的路径及面临的挑战

通过案例讲解分析以及现有立法情况、学术讨论以及各国观点探讨，帮助技术人员了解生成人工智能在全球范围内面临的法律合规热点问题，并从模型开发者、应用者和使用者几方的角度，分别阐述模型以及 AIGC 可能面临的合规管理问题。覆盖的热点问题包括：发展大模型应用需要符合哪些合规要求？用于训练的数据是否存在隐私风险等等。

演讲提纲：

1. 通过全球重点司法案例讲解，引入生成式人工智能和 AIGC 法律问题

2. 分析生成式人工智能的合规问题，可能出现的领域

3. 重点国家的立法情况以及态度

4. 生成式人工智能法律规范的未来展望

你可获得：

• 了解我国现行法律对于生成式人工智能的规定和立法目的
• 获悉现阶段重点国家和地区在司法、立法以及行业层面对于生成式人工智能的法律争议焦点。 
• 了解生成式人工智能应用层面的主要法律风险

大模型的出现和成熟，给客服场景的解决方案带来了全新的想象空间。本次分享讲介绍蔚来汽车讲大模型应用月客服场景的全套解决方案，从知识中心的建设，语料中心的建设，到客服问答，用户需求的理解，智能决策和执行。整套框架和思路具有一定拓展性，不仅适用于客服场景，也同样适用于其他场景，比如销售，导购，智能诊断等。

演讲提纲：

1. 背景和痛点

• 客服本身的挑战和痛点
• 高端电动车行业给客服带来的新挑战

2. 客服系统的技术演进

• 大模型出现前的技术方案
• 大模型给客服带来的新助力

3. 基于大模型的智能客服技术方案

• 知识中心的设计和运营
• 语料中心的设计和运营
• 智能客服的系统设计
  • 基于知识中心的智能辅助问答
  • 基于大模型的智能决策和执行

4. 智能客服系统应用实践

5. 总结和展望

• 更多服务场景的落地
• 技术方案的迭代规划

你将获得：

• 大模型在实际落地中需要考虑的问题和挑战
• 大模型应用的整体解决方案和关键模块
• 大模型在智能决策和执行场景的方案

当前，大规模语言模型如 GPT-4 被广泛应用于各种场景。在本次演讲中，我们将探讨该模型在特定的复杂的应用场景下，如何讲 AI 调教成为合格的助手。

演讲提纲：

1. LLM 在复杂场景下的的挑战

• 隐式上下文
• 结构化输出

2. LLM 的限制与问题处理

• 基于提示工程的实践
• BabelGPT 工程设计
• BabelGPT 效果演示

3. AI Agent 探讨

听众收益：

• 深入理解大规模语言模型的实际应用和可能的挑战
• 获取解决 LLM 应用中的各种问题的策略和方法
• 更全面的理解 AI Agent
• 了解 LLM 在代码生成领域的实践

相对于传统的机器学习与深度学习，以 GPT3 为例的大模型涌现出处理各类任务的新范式：zero-shot、few-shot、in-context 等，同时也支持深度学习领域的 Finetune。在腾讯 LLM 应用框架应运而生，将 AI 模型能力同向量数据库，提示工程，文本检索，外部知识，外部工具结合，对任务进行规划和编排，为模型提供长期记忆的能力。框架让大模型能够低成本、快速处理各种任务，极大的缩短了数据准备与工程开发流程，弥补大型模型能力和实际应用之间的鸿沟。本次演讲将分享以上经验。

演讲提纲：

1. LLM 简介

• 大语言模型预训练
• 大语言模型推理

2. LLM 应用框架

• 总体设计架构
• Prompt 模块
• Tools 模块
• Memory 模块
• Planning 模块
• LLM 的可视化
• LLM 移动端推理
• LLMWeb 端推理

3. LLM 在文档业务探索

• LLM x PDF
• LLM x Excel
• LLM x Doc

你将获得：

• 想清楚业务的 AI 形态和价值
• 理解清楚哪些问题是大模型解决的，哪些是传统机器学习解决的
• 了解如何为业务定制大模型