专题：边缘计算与人工智能的创新实践

火山引擎边缘云在全球有 2500 多个节点，覆盖 50 多个国家，全网带宽储备已经达到 100T 以上，在广域分布的基础设施之上火山引擎边缘云构建了统一支撑字节跳动内部业务和外部商业化客户的边缘计算服务。本次分享将介绍火山引擎边缘计算产品背后的算力底座 - 火山引擎边缘云原生操作系统，其统一纳管字节跳动边缘计算硬件资源，在小型化、集成化、轻量化的基础上，为业务就近提供虚拟机 / 裸金属 / 容器等多形态算力，实现算力服务混部部署、跨区域弹性调度，分享将展开介绍边缘云原生操作系统的研发动因、面临的挑战、架构设计和未来演进方向。

演讲提纲：

1. 云与边缘计算

a. 云计算和边缘计算业务发展趋势

b. 边缘计算的历史发展背景，技术演进趋势

2. 边缘场景的技术挑战

a. 网络 / 节点规模 / 资源限制等边缘特有场景约束下，技术架构如何满足边缘计算业务要求

3. 边缘云原生操作系统

a. 技术架构及核心子系统介绍

b. IaaS 管控 / 调度中心 / 边缘中间件等重点子系统架构及设计思路

4. 演进和未来思考

a. 进一步的轻量化

听众收益：

• 边缘场景的技术挑战和应对思路
• 边缘广域分布节点场景下的技术架构设计及演进路径

听懂我的演讲，听众需要具备哪些知识储备：

• 对云计算 IaaS、PaaS 服务的基础了解
• 对云原生、虚拟化技术的初步了解

边缘计算是一种将计算任务从中心数据中心向网络边缘分布的技术，能够降低网络延迟、减轻单机房网络负担并提高服务质量。在 HTTPDNS 边缘下沉的实际工程应用中，面对复杂需求场景也存在以下三方面挑战：一是边缘服务的最优放置；二是流量在边缘节点间的可靠调度接入；三是应对边缘机房异构特征下，复杂项目的工程和技术管理。

本次分享将重点介绍字节跳动 HTTPDNS 团队通过服务下沉边缘，最终实现成本降低 35%、性能提升 20% 的工程实践，包括引入了工程管理和技术管理的思想，使用 AHP、FMEA 等模型进行下沉后服务的云边端架构设计和工程实施，实现了以 FinOps 和强化学习融合的模型指导服务边缘服务放置；以流量、容量和稳定性为输入的智能云边端调度方案，应对了边缘计算资源局部紧张、全局分散以及稳定性抖动频繁的挑战，进而弱化边缘放置问题带来的资源开销，以及如何提升流量调度效率、资源利用率以及降低容灾和运维难度等。

演讲提纲：

1. 边缘计算应用难题与挑战

a. 背景，技术、架构和项目实施风险

b. V 模型的 AHP 分析与思考

c. 新架构中的性能、成本和稳定性间冲突与平衡

2. 千万级 QPS 流量下的可靠边缘放置

a. 边缘放置模型与服务流量模型特征

b. 边缘计算基础设施与资源困境

c. FinOps 与强化学习融合方案

3. 云边端全链路流量调度

a. 云边端调度联动模型与 FMEA 分析

b. 边缘 EIP 接入与调度的 Anycast IP 替代方案

c. 基于火山引擎 GTM 的状态感知与精细化智能流量调度

d. Service Mesh 下的云边、边边分层立体式调度

4. 总结与展望

a. 工程管理视角新技术应用经验

b. 服务区域自治与弹性调度技术的探索

听众收益：

• 边缘技术在传统服务场景下应用的风险和挑战，以及如何使用科学的工程思想进行评估。
• 稳定性要求极高的基础服务，在近千个边缘机房中选点和放置，综合考量调度与容灾的可行服务放置方案。
• 通过云边端的全链路智能调度，轻量化的 Anycast IP 接入替代方案，实线上接入流量迁移与稳定性保障。

听懂我的演讲，听众需要具备哪些知识储备：

• 云计算与边缘计算的异同，以及发展现状
• 工程管理中常见的管理工具和方法
• 移动互联网流量的服务接入与常见调度模式

容联云发布的容犀智能大模型应用升级，包括坐席辅助、RAG知识库、坐席陪练、会话洞察和文本机器人，覆盖了营销、销售、服务到企业内部管理的核心场景。这些应用矩阵为企业提供了核心环节的智能化闭环。

大模型技术在智能客服中的应用，主要包括情绪识别与应对、更自然的对话体验、知识自动更新和个性化服务体验。这些技术使得智能客服在处理客户问题时更具同理心和人性化，能更有效地管理用户的情绪和满足他们的需求。另外，大模型技术在智能客服等场景的深度应用，也为企业出海提供了强大的支持。企业能够更好地适应不同市场的需求，提供更加个性化和本地化的服务，从而在全球市场中取得成功。

演讲提纲：

1. 容犀赤兔大模型及应用介绍
2. 智能客服与营销场景的大模型应用及关键技术
3. 大模型技术赋能智能客服助力企业出海

听众收益：

• 了解大模型在销售与营销场景的落地应用情况
• 了解大模型应用相关技术

适合人群：

• 企业客户服务、营销相关人员
• AI方向相关从业人员

PyTorch 是大部分程序员和开发者所青睐的 AI 框架，但是 PyTorch 主要支持英伟达的 GPU，当前新的 AI 芯片层出不穷，如 Google 的 TPU、华为的昇腾 Ascend 等如何做好适配，如何才能够在国产芯片中灵活、方便地使用 PyTorch 成为一个巨大的挑战。

本演讲将通过介绍 PyTorch 框架的整体分层解耦架构，帮助大家了解 PyTorch 框架的内容与 GPU 之间的关系；然后以国产 AI 芯片华为昇腾为例，介绍在硬件迭代的过程中，PyTorch 如何通过业务实践与重构，更好地让 AI 框架原生适配昇腾。

听众收益：

了解 PyTorch AI 框架架构、国产芯片架构、适配层架构、大模型训练、三方库适配等大模型相关技术及应用。

适合人群：

算法工程师、系统工程师、大模型工程师