Cosmos.AI 是 PayPal 公司一个端到端的 ML 服务平台，目标用户涵盖了公司内部不同业务部门（风控，合规、客户服务等）的 ML 相关人员（包括数据科学家、业务分析师、开发人员和 MLOps 工程师）。Cosmos.AI 平台专注于提供一个自助式的、可靠的、可伸缩的、高效和安全的模型构建、训练、部署和决策平台，来标准化机器学习开发的生命周期（MLDLC）。随着 GenAI 技术的不断推广和进步，我们的平台也融入了对 LLM 的支持。

本场演讲将从平台架构、技术、功能、用例等各方面介绍 Cosmos.AI 服务平台，以及其中的一些最佳实践。

演讲提纲：

1. 数据整理与特征工程
2. 模型开发训练
   • 训练代码版本控制
   • 训练数据集管理
   • 训练实验跟踪
3. 模型部署
   • 高级部署
   • 模型优化
4. 对 GenAI 的支持
   • LLM 模型部署
   • LLM 模型语义缓存
   • LLM 模型推理加速
   • LLM 模型提示管理
5. GenAI 的应用
   • GenAI 小助手

听众收益点：

• 了解 Paypal 在 ML 平台构建上的解决方案和工程经验
• 了解 GenAI 技术在 PayPal AI/ML 平台的架构和实现
• 了解 GenAI 技术在 PayPal AI/ML 平台的应用和探索