新機能
AWS、Trainium 用ネイティブ PyTorch サポート「TorchNeuron」のパブリックベータを開始
AWS は、Trainium チップ向けのオープンソースネイティブ PyTorch バックエンドである TorchNeuron のパブリックベータを開始した。PyTorch コードを Trainium で実行可能にする。カスタムオペレータやパフォーマンス最適化もサポートする。
本日、AWS は AWS Trainium 向けのオープンソースネイティブ PyTorch バックエンドである TorchNeuron のパブリックベータを開始した。Trainium は、ディープラーニングの AI トレーニングおよび推論ワークロードに高いパフォーマンスとコスト効率を提供する AI チップのポートフォリオである。TorchNeuron により、AI 科学者や研究者は PyTorch をネイティブに Trainium で使用してモデルを構築および実験できる。開発者は、完全な PyTorch 互換性を維持しつつ、eager 実行、torch.compile、および標準の PyTorch API を活用できる。さらに、TorchNeuron は Neuron Kernel Interface (NKI) と統合して、Trainium ハードウェア向けのカスタムオペレータとパフォーマンス最適化を可能にする。TorchNeuron は、Amazon EC2 Trainium2 インスタンスおよび Amazon EC2 Trainium3 インスタンス向けに、TorchNeuron の GitHub リポジトリを通じてオープンソースとして提供されている。
この更新の位置づけ
AI 開発者や研究者は、Trainium チップで PyTorch をネイティブに利用できるため、モデル開発と実験が容易になる。