Amazon SageMaker AI がトレーニングおよび処理ジョブのインスタンス優先度リストをサポート

本日、Amazon SageMaker AI はトレーニングおよび処理ジョブのインスタンス優先度リストを発表しました。これにより、お客様のワークロードのコンピュート容量をより簡単かつ迅速に見つけることが可能になります。多くの AI トレーニング、ファインチューニング、およびデータ処理ワークロードは、いくつかのインスタンスタイプまたはサイズのいずれかで同様に良好に実行されますが、これまでには、ジョブ提出時に 1 つのインスタンスタイプのみを指定し、SageMaker がその特定のインスタンスを見つけてくれるのを待つ必要がありました。ピーク時の高需要 GPU では、待ち時間が予測できないため、顧客は複雑なリトライロジックを構築したり、異なるインスタンスタイプで複数のジョブを同時に提出して最初に利用可能なオプションを見つける必要がありました。今後は、ワークロードが受け入れるインスタンスタイプの優先順位リストを単に提供すれば、SageMaker は優先リストから最初の利用可能な構成でジョブを実行します。このソリューションにより、トレーニングまたは処理ジョブがより早く開始される可能性があります。この機能を使用するには、トレーニングまたは処理ジョブを提出する際に、インスタンスタイプとインスタンス数の優先順位を指定します。たとえば、ml.g6.48xlarge の 2 インスタンスまたは ml.g5.48xlarge の 4 インスタンスの優先度をリストに含めることができます。SageMaker はリストを処理し、容量が利用可能な最初の構成でジョブを開始します。また、同じジョブ提出内で、オンデマンドソースからまたは予約済み SageMaker フレキシブルトレーニングプランから容量を調達するように構成することもできます。この機能により、高需要期間中のジョブのコンピュート取得プロセスが簡素化され、SageMaker のトレーニングおよび処理ジョブ API ですでに使用しているものと同じ API で、区別されない手動リトライが減ります。SageMaker トレーニングおよび処理ジョブのインスタンス優先度リストは、本日、SageMaker が利用可能なすべての AWS リージョンで、SageMaker CLI、API、SDK、およびコンソール UI を通じて利用可能です。詳細については、ドキュメントまたはローンチブログをご覧ください。

この更新の位置づけ

この更新は、AI トレーニング、ファインチューニング、およびデータ処理ワークロードでコンピュートリソースを効率的に管理する必要があるユーザーに役立ちます。