Amazon SageMaker AI バッチ変換で G6e インスタンスがサポート開始

Amazon SageMaker AI は、バッチ変換で Amazon EC2 G6e インスタンスをサポートする。これにより、最大 8 つの NVIDIA L40S Tensor Core GPU と第 3 世代 AMD EPYC プロセッサーを搭載した G6e インスタンスを使用でき、GPU 集約的なワークロード、特に大規模言語モデルや画像・動画・音声を生成するディフュージョンモデルなどへのオフライン推論が可能になる。バッチ変換は Amazon S3 に保存されたデータセットに対する予測を実行し、持続的な推論エンドポイントを必要としない大規模データセットに適している。サポート対象リージョンには US East (N. Virginia)、US East (Ohio)、US West (Oregon)、Asia Pacific (Mumbai)、Asia Pacific (Hyderabad) が含まれる。

この更新の位置づけ

この更新は、GPU リソースを必要とする大規模なオフライン推論タスクを実行するユーザーに影響を与える。Amazon SageMaker AI のバッチ変換機能を利用するユーザーは、より高いパフォーマンスで推論を実行できる。