本课程详尽介绍了机器学习 (ML) 管道中的模型部署。在简介中,您将了解基本的部署概念。然后,在第一部分中,您将了解生产基础设施的基本组成部分。这部分指导您为 ML 工作流选择最佳编排服务。然后,您将了解您可以在 ML 生命周期的部署阶段使用的 Amazon Web Services (AWS) 工具和服务。 下一部分介绍推理基础设施。您将学习如何根据主要优势选择最佳部署目标。您还将学习如何根据特定要求选择合适的环境以进行训练和推理。接下来,您将探索各种 AWS 计算实例类型,了解如何区分按需资源和预置资源。最后,您将回顾如何在生产环境和测试环境中预置计算资源。
- 课程级别:高级
- 时长:1 小时
注意:本课程具有本地化的注释/字幕。 旁白保留英语。要显示字幕,请单击播放器右下角的 CC 按钮。
活动
- 在线资料
- 知识考核问题
- 课程评估
课程目标
- 在 ML 管道中定义模型部署。
- 描述生产基础设施及其组件。
- 比较和对比 ML 工作流的编排服务。
- 说明部署基础设施的设计考虑因素。
- 根据主要优势选择最佳部署目标。
- 描述 ML 模型部署策略及其端点要求。
- 根据主要优势选择最佳模型部署托管策略。
- 根据主要优势选择多模型部署或多容器部署。
- 根据主要优势选择最佳容器选项。
- 列出并描述 ML 解决方案的 AWS 计算实例类型。
- 根据特定要求选择最佳计算环境以进行训练和推理。
- 区分按需资源和预置资源以解决性能和扩展问题。
- 描述如何在生产环境和测试环境中预置计算资源。
- 描述在边缘设备上优化模型的方法。
培训对象
- 云架构师
- 机器学习工程师
建议具备的技能
- 拥有至少 1 年使用 SageMaker 和其他 AWS 服务进行 ML 工程工作的经验
- 拥有至少 1 年相关职位(例如后端软件开发人员、DevOps 开发人员、数据工程师或数据科学家)的工作经验
- 对 Python 等编程语言有基本的了解
- 已完成 AWS ML Engineer Associate 学习计划的前几门课程
课程大纲
- 第 1 部分:简介
- 第 1 课:如何学习本课程
- 第 2 课:领域 3 简介
- 第 3 课:课程概览
- 第 4 课:模型部署基础知识
- 第 2 部分:模型构建和部署基础设施
- 第 5 课:构建可重复框架
- 第 6 课:工作流编排选项
- 第 3 部分:推理基础设施
- 第 7 课:部署注意事项和目标选项
- 第 8 课:选择模型推理策略
- 第 9 课:用于推理的容器和实例类型
- 第 10 课:使用边缘计算优化部署
- 第 4 部分:总结
- 第 11 课:课程总结
- 第 12 课:评估
- 第 13 课:联系我们