リージョン拡大重要度 中

SageMaker AI 推論で G6 インスタンスが AWS GovCloud (US-East) リージョンで提供開始

Amazon SageMaker が AWS GovCloud (US-East) リージョンで G6 インスタンスを提供開始し、政府機関や組織が厳格なコンプライアンスとデータレジデンシー要件を満たしながら生成 AI ワークロードを実行可能に

Amazon EC2 G6 インスタンスが Amazon SageMaker AI 推論で AWS GovCloud (US-East) リージョンで提供開始する。G6 インスタンスは最大 8 つの NVIDIA L4 テンソルコア GPU (各 24 GB メモリ) と第 3 世代 AMD EPYC プロセッサーを搭載し、G4dn インスタンスに比べて最大 2 倍の深層学習推論パフォーマンスを提供する。これにより、政府機関や組織は、生成 AI ワークロード (中規模言語モデル、画像生成、コンピュータビジョンなど) を厳格なコンプライアンスとデータレジデンシー要件を満たしながら実行できる。G6 インスタンスは 24 GB の GPU メモリに収まる生産環境の推論ワークロードに対して強力な価格パフォーマンスを提供する。

AWS 公式の元記事を読む

関連する記事・用語

Amazon Elastic Inference【提供終了】EC2 や SageMaker に GPU アクセラレーターを部分単位で追加した推論高速化サービス。現在は Inferentia (Inf1 / Inf2) や GPU インスタンス、SageMaker AI 推論が受け皿Amazon SageMaker機械学習モデルの構築、トレーニング、デプロイを一貫して行えるフルマネージドプラットフォームで、データサイエンティストと ML エンジニアの生産性を大幅に向上させるAWS の AI/ML サービス階層構造 - SageMaker・Bedrock・API 型サービスの 3 層が実現する柔軟性AWS の AI/ML サービスを SageMaker (フル制御)、Bedrock (マネージド生成 AI)、Rekognition 等 (API 型) の 3 層構造として整理し、GCP Vertex AI や Azure OpenAI Service との比較を通じて、カスタムシリコンとの統合を含む AWS の柔軟性を解説します。AWS Graviton とカスタムシリコン戦略 - 自社設計チップが塗り替えるクラウドの経済性AWS が自社設計した Arm ベースの Graviton プロセッサと、Inferentia・Trainium などの AI 向けカスタムシリコンが、クラウドのコスト構造とパフォーマンスをどう変えているかを Azure・GCP と比較します。Amazon EC2 インスタンスの選び方 - インスタンスファミリーと購入オプションの最適化インスタンスファミリーの特徴と Graviton プロセッサの性能優位性を整理し、オンデマンド・リザーブド・スポットの購入オプションを使い分ける指針を紹介します。