Amazon SageMaker HyperPod が AMI バージョン管理と自動パッチ適用をサポート

Amazon SageMaker HyperPod は、基盤モデルを大規模にトレーニングおよびデプロイするためのインフラストラクチャである。このアップデートにより、クラスター管理者は各インスタンスグループとノードの正確な AMI バージョン (メジャーマイナーパッチ形式) で確認でき、バージョン ドリフトを迅速に検出したり、UpdateClusterSoftware API を使用して以前のバージョン (NVIDIA ドライバーや CUDA を含む) にロールバックしたりできる。自動パッチ適用は、オプションでインスタンスグループごとに有効化でき、ノードがアイドル状態になったときに下位互換性のあるセキュリティパッチのみを適用するため、実行中のワークロードが中断されない。NVIDIA ドライバー、CUDA バージョン、オペレーティングシステムカーネルは、異なるメジャーまたはマイナーバージョンにアップグレードされない。自動パッチ適用は、CreateCluster または UpdateCluster API で有効にできる。新しい AMI サポートポリシーも発表され、さまざまな AMI バージョンのサポートタイムラインを公開している。これらの機能は、Amazon EKS でオーケストレーションされる HyperPod クラスターで、SageMaker HyperPod がサポートされているすべての AWS リージョンで利用できる