Amazon ECS が Amazon EC2 G6f インスタンスで小数点 GPU スケジューリングをサポート

Amazon ECS は Amazon EC2 G6f インスタンスで、NVIDIA L4 Tensor Core GPU の 1/8 (3 GB メモリ) から GPU パーティションをスケジュールできる機能をサポートする。これにより、小規模 AI インフェレンスやモデル実験、グラフィックスレンダリングなど、フル GPU を必要としないワークロードに適したコンテナを実行でき、インフラストラクチャのコストを削減できる。GPU=0.125、0.25、0.5 の値をコンテナ定義で指定することで、ECS は要求を満たす G6f インスタンスにタスクを配置する。ECS マネージドインスタンスでは、インスタンスのプロビジョニングやスケーリング、パッチ管理、ライフサイクル管理が自動化され、GPU メトリクスやヘルスモニタリングも提供される。この機能は G6f インスタンスが利用可能なすべての AWS リージョンで利用できる。