AWS Neuron 2.33 が PyTorch のネイティブサポートと Neuron Observer を追加

AWS Neuron 2.33 がリリースされた。このバージョンでは、Trainium 用ネイティブ PyTorch バックエンドである TorchNeuron がパブリックベータで提供される。Amazon EC2 Trn2 および Trn3 インスタンスで、標準の PyTorch API を使用したモデルを実行でき、eager モードまたは torch.compile で動作する。このリリースでは、Trainium のヘルス問題を 1 秒未満で検出し、影響を受けたノードまたはデバイスを特定する Neuron Observer もパブリックベータで提供される。vLLM Neuron プラグインが vLLM 0.29.0 にアップグレードされ、Wan2.2 ビデオ生成用の vLLM Omni Neuron プラグインが Neuron リリースに統合された。どちらも TorchNeuron を通じたネイティブ PyTorch コンパイルをサポートする。新しい Neuron Deep Learning AMI および Deep Learning Container が PyTorch 訓練用に提供され、TorchNeuron、PyTorch 2.14、TorchTitan を含む。Neuron Explorer は torch.profiler でキャプチャされたプロファイルをオープンし、PyTorch メモリスナップショットから、オフメモリエラーのデバッグに役立つ Python ソースラインへのアロケーションを属性化する。Neuron Kernel Interface (NKI) で書かれたカーネルは、メタプログラミングに完全な Python 言語を使用できる。NKI ライブラリには、DeepSeek-V3.2、Qwen3.5、Kimi Delta Attention などの 25 の新しい実験的カーネルが追加された。

この更新の位置づけ

このアップデートは、Trainium ベースの AI トレーニングとデプロイを PyTorch で行う開発者やデータサイエンティストに影響する。よりシームレスなワークフローとデバッグ機能を提供する。