Amazon SageMaker AI がトレーニングおよび処理ジョブのインスタンス優先リストをサポート
Amazon SageMaker AI は、トレーニングおよび処理ジョブのインスタンス優先リストを導入し、ワークロードのコンピュート容量の確保を容易かつ迅速にします。優先順位のインスタンスタイプを指定するだけで、SageMaker が最初に利用可能な構成でジョブを実行します。
本日、Amazon SageMaker AI はトレーニングおよび処理ジョブのインスタンス優先リストを発表しました。これにより、お客様のワークロードのコンピュート容量をより簡単かつ迅速に見つけることが可能になります。多くの AI トレーニング、ファインチューニング、およびデータ処理のワークロードは、いくつかのインスタンスタイプまたはサイズで同様にうまく実行されますが、これまでには、ジョブ提出時に 1 つのインスタンスタイプのみを指定し、SageMaker がその特定のインスタンスを見つけてくれるのを待つ必要がありました。ピーク時の GPU 需要が高い場合、待ち時間は予測できません。顧客は複雑なリトライロジックを構築したり、異なるインスタンスタイプで複数のジョブを同時に提出して最初に利用可能なオプションを見つける必要がありました。今では、ワークロードが受け入れるインスタンスタイプの優先順位リストを単に提供すれば、SageMaker が優先リストから最初に利用可能な構成でジョブを実行します。このソリューションにより、トレーニングまたは処理ジョブの開始がより早くなる可能性があります。この機能を使用するには、トレーニングまたは処理ジョブを提出する際に、インスタンスタイプとインスタンス数の優先順位を指定します。たとえば、ml.g6.48xlarge のインスタンスを 2 つ、または ml.g5.48xlarge のインスタンスを 4 つという優先リストを指定することができます。SageMaker はリストを処理し、容量が利用可能な最初の構成でジョブを開始します。また、同じジョブ提出内で、オンデマンドソースまたは予約済み SageMaker フレキシブルトレーニングプランからのキャパシティソースを構成することもできます。この機能により、高需要期間中のジョブのコンピュート取得プロセスが簡素化され、SageMaker のトレーニングおよび処理ジョブ API で既に使用しているものと同じ API で、差別化された手動リトライが減ります。SageMaker トレーニングおよび処理ジョブのインスタンス優先リストは、本日、SageMaker が利用可能なすべての AWS リージョンで、SageMaker CLI、API、SDK、およびコンソール UI を通じて提供されています。詳細については、ドキュメントまたはローンチブログをご覧ください。
この更新の位置づけ
この更新は、AI モデルのトレーニングやデータ処理を行うユーザーに影響を与え、これらのタスクに必要なコンピュートリソースをより効率的に確保できるようにします。