Amazon SageMaker JumpStart で NVIDIA Nemotron 3.5 Lightning モデルが利用可能に

NVIDIA の Nemotron 3.5 Lightning モデルが Amazon SageMaker JumpStart で提供開始された。このモデルは、持続的なエージェントワークロードと高スループットの企業自動化向けに設計されており、パーソナルアシスタント、金融ドキュメント処理、サイバーセキュリティのトリアージ、テレコム運用などに対応する。ハイブリッドの Mixture-of-Experts (MoE) アーキテクチャを採用し、合計 30 億パラメータのうちフォワードパスあたり 3 億パラメータのみがアクティブになり、類似モデルに比べて最大 4 倍のスループット (約 410 トークン/秒) と 30％高速なタスク完了を実現する。Nemotron 3 Ultra からディスティルされ、最大 100 万トークンのコンテキストを処理できる DFlash 推定デコードを統合し、人気のあるエージェントハーネスと直接統合する。モデルはオープンなデータセットで完全にオープンにトレーニングされ、エンタープライズが自らのツール、ワークフロー、ポリシーに合わせてポストトレーニングし、エッジ、オンプレミス、またはクラウドインフラ全体で完全な所有権でデプロイできる。SageMaker JumpStart を使用すると、顧客は数クリックでこのモデルをデプロイして、特定の AI ワークロードをサポートできる。