新機能重要度 中

SageMaker ノートブックインスタンスで G6e インスタンスタイプが利用可能に

Amazon SageMaker ノートブックインスタンスで、NVIDIA L40s GPU を搭載した EC2 G6e インスタンスタイプが一般提供開始。大規模言語モデルやディフュージョンモデルのデプロイや細-tune に利用できる

Amazon SageMaker ノートブックインスタンスで、EC2 G6e インスタンスタイプが一般提供開始した。G6e インスタンスは最大 8 つの NVIDIA L40s テンソルコア GPU を搭載し、1GPU あたり 48GB のメモリと第 3 世代 AMD EPYC プロセッサーを備える。EC2 G5 インスタンスと比較して最大 2.5 倍の性能を提供する。ユーザーは G6e インスタンスで、最大 13 億パラメータの大規模言語モデルや画像・動画・音声生成用のディフュージョンモデルのデプロイ、インタラクティブなモデル訓練 (例:生成 AI の fine-tuning) を行うことができる。本機能は US 東部 (バージニア北部、オハイオ)、US 西部 (オレゴン)、アジア太平洋 (東京)、中東 (ドバイ)、ヨーロッパ (フランクフルト、スウェーデン、スペイン) のリージョンで利用可能。

AWS 公式の元記事を読む