Amazon SageMaker AI が NVIDIA Nemotron 3.5 Lightning モデル向けのサーバーレスモデルカスタマイズをサポート

Amazon SageMaker AI は NVIDIA Nemotron 3.5 Lightning モデル向けに、サーバーレスモデルカスタマイズをサポートする。このモデルは NVIDIA の最新のオープンウェイトモデルであり、3B のアクティブパラメーターと総計 30B パラメーターを使用するハイブリッド Mixture-of-Experts アーキテクチャを採用する。SageMaker AI 上でのデプロイに加え、特定のドメインやワークフローに合わせてカスタマイズできる。モデルカスタマイズにより、独自データでファウンデーション モデルを調整し、小規模で適切なモデルで最先端モデルの品質を維持し、コストとレイテンシーを削減できる。SFT でラベル付きデータを使用してドメイン固有のタスクの精度を向上し、DPO で組織のトーンにアウトプットを整合させる。RFT で報酬シグナルを使用して新しいタスクのパフォーマンスを向上させる。サーバーレス カスタマイズでは、SageMaker AI がすべてのインフラプロビジョニングとトレーニングオーケストレーションを処理するため、クラスター管理ではなくデータと評価に集中できる。使用した分のみの料金となる。サーバーレスモデルカスタマイズは US East (N. Virginia)、US West (Oregon)、Asia Pacific (Tokyo)、Europe (Ireland) で利用可能。開始するには、Amazon SageMaker Studio のモデルページでカスタマイズジョブを開始するか、SageMaker Python SDK を使用してプログラムによるアクセスを行う。詳細については、Amazon SageMaker AI モデルカスタマイズドキュメントを参照すること。

この更新の位置づけ

この更新は、AI モデルを特定のドメインやタスクに合わせてカスタマイズする必要がある開発者やデータサイエンティストに有用である。SageMaker AI のサーバーレス機能により、インフラ管理の負荷を軽減し、コスト効率を向上させる。