OpenAI GPT-6 Astra が Amazon Bedrock で UltraFast モードをサポート
Amazon Bedrock で、OpenAI の GPT-6 Astra が UltraFast モードで利用可能に。API の推論速度が最大 6 倍に達し、秒間最大 300 トークンで高速な応答が可能。
本日、AWS は OpenAI の GPT-6 Astra が Amazon Bedrock で UltraFast モードで利用可能になったと発表した。UltraFast は、速度が最も重要なワークロード向けのプレミアム速度ティアで、OpenAI によると、API の推論速度が最大 6 倍で、秒間最大 300 トークンとなる。Amazon Bedrock の推論エンジンは、生産環境のワークロードに必要なパフォーマンス、セキュリティ、および信頼性を提供する。UltraFast モードは、遅延に敏感なアプリケーション、例えばリアルタイムのコーディングアシスタント、インタラクティブエージェント、および高速で高品質な応答を必要とする顧客向けエクスペリエンスに利用できる。既存の AWS 制御により、ワークロードを保護し、アクセスを管理し、モデルの呼び出しアクティビティを監査することができる。Amazon Bedrock コンソールまたはサポートされている Amazon Bedrock API を介してプログラムで開始できる。サポートされている AWS リージョン、エンドポイント、API、機能、推論プロファイル、および料金については、Amazon Bedrock ドキュメンテーションを参照してください。
この更新の位置づけ
この更新は、リアルタイム応答が求められるアプリケーションを開発している開発者や、AI モデルを生産環境で運用している企業に影響する。高速な推論速度と既存の AWS セキュリティ機能が組み合わさることで、高品質なユーザー体験を実現できる。