AWS Neuron 2.31.0 がリリース、NKI 0.5.0 と UltraServer Operator を追加

AWS Neuron 2.31.0 がリリースされた。このバージョンでは、NKI 0.5.0 が導入され、MX FP8 スケール型データ型やテンソルインディレクション、NkiTensor ビュー API などの新しい機能が追加された。また、Amazon EKS 向けの Neuron UltraServer Operator がパブリックベータで提供され、UltraServer の検出やワークロード割り当て、リソースクレーム生成を自動化する。Neuron コンパイラではコード生成バックエンドが再設計され、デフォルトで有効化されてパフォーマンスが向上。Neuron ランタイムでは連続した共有スクラッチパッドがサポートされ、デバイス設定が簡素化された。NKI ライブラリには、MoE トレーニングコレクティブや変形アテンションなど、14 の新しい実験カーネルが追加された。Neuron Explorer ではシステムトレースビューアのソースコードリンクやデフォルトグループングが更新された。