用 Amazon SageMaker 构建 ML 平台 - 从模型构建到部署

介绍从 Studio 开发到托管 Spot 训练、Pipelines 实现 MLOps、Model Monitor 数据漂移检测,整合 ML 全生命周期的方法。

SageMaker 概述

SageMaker 是统一提供 ML 模型构建、训练和部署的服务,可使用 17 种以上内置算法和 150 种以上预训练模型。SageMaker Studio 是基于浏览器的 IDE,集成了 Jupyter Notebook、实验管理、模型注册表和流水线。覆盖数据科学家和 ML 工程师双方的工作流。

训练与部署

训练作业通过指定 S3 的训练数据和 ML 实例(如 ml.p3.2xlarge 等 GPU 实例)来执行。训练完成后,模型工件保存到 S3。实时推理端点在常驻实例上提供低延迟推理,无服务器推理是仅在请求时启动实例的高性价比选项。SageMaker Pipelines 将数据处理、训练、评估、条件分支、模型注册等步骤定义为 DAG,实现 ML 工作流自动化。

MLOps 与模型监控

SageMaker Pipelines 将 ML 工作流(数据预处理 → 训练 → 评估 → 模型注册 → 部署)定义为 CI/CD 流水线。Model Registry 管理模型的版本控制和审批工作流,在生产部署前设置质量关卡。Model Monitor 自动检测推理端点的数据漂移(输入数据分布变化)和模型质量(精度下降),通过 CloudWatch 告警通知。SageMaker Clarify 提供模型偏差检测和可解释性,可视化特征重要性和单个预测的依据。Feature Store 集中管理团队共享的特征,确保训练和推理使用一致的特征。

SageMaker 的成本优化

SageMaker 的成本由训练实例、推理端点和 Notebook 实例构成。托管 Spot 训练可将训练成本削减最高 90%,通过检查点支持中断后恢复。推理端点可选择无服务器推理(有冷启动)和实时推理(常驻),流量较少的模型适合无服务器。多模型端点将多个模型托管在一个端点上,共享实例成本。SageMaker Savings Plans 对 ML 实例使用量应用承诺折扣,降低长期成本。

数据准备与特征工程

与模型本身相比,ML 的成果在很大程度上取决于输入数据的质量。SageMaker 提供以可视化方式组合数据预处理和转换的功能,以及以托管方式执行大规模数据加工的处理作业。整理好的特征可以注册到 Feature Store 进行集中管理,并在团队之间重复使用。更重要的是,训练时和推理时可以使用相同的特征定义。这样可以防止开发时与生产环境中输入不一致的事故。高效创建并共享优质特征的机制,会提高整个模型开发的生产率。

实验管理与超参数调优

模型开发中会一边比较大量试验,一边寻找最佳配置。使用 SageMaker 的实验管理功能,可以记录每次试验的参数、数据和评估结果,并在事后对比各项条件。不依赖直觉或手工操作,就能以可复现的方式推进改进。使用超参数自动调优功能,只需指定搜索范围,就能高效地尝试多种组合,找出高性能的设置。与手动反复试错相比,能以较少的工夫更容易地获得良好结果。体系化的实验管理,支撑着可复现且易于解释的模型开发。

推理选项的选择

SageMaker 提供适合不同用途的多种推理方式。如果需要低延迟和持续响应,适合使用常驻的实时推理。如果流量稀疏且希望控制成本,适合使用仅在请求时启动的无服务器推理。需要花时间处理大型输入时,异步推理效率高;需要集中批量处理大量数据时,批量转换效率高。根据流量特性、所需的响应能力与成本之间的平衡来选择方式。如果让多个模型共存于一个端点,还可以共享实例、降低成本。

安全与治理

在 ML 平台上,数据和模型的保护同样不可或缺。对训练数据和产出物进行加密,并通过 IAM 将访问限制在最小权限。如果将网络封闭在 VPC 内、采用不经过互联网的配置,就能将敏感数据的路径限定在公司内部。在注册表中管理模型版本,并设置在投入生产前需经审批的质量关卡,就能防止误部署未经验证的模型。引入评估模型判断依据和偏差的机制,也能应对要求问责的用途,实现值得信赖的 ML 运维。

总结

SageMaker 是整合 ML 全生命周期的平台。在 Studio 中开发,通过托管 Spot 训练将成本削减最高 90%。用 Pipelines 构建 MLOps 流水线,用 Model Monitor 自动检测数据漂移。通过无服务器推理和多模型端点优化部署成本,用 Feature Store 实现团队间的特征共享。

参考资料(AWS 官方)

本页的第一手信息来源是 AWS 官方网站及官方文档。最新的规格与价格请以下列官方页面为准。

如本页内容与官方文档不一致,请以官方文档为准。

分享