AI ガバナンスと責任ある AI リーダーシップ

責任ある AI の観点

AWS は責任ある AI を、公平性、説明可能性、プライバシーとセキュリティ、安全性、制御可能性、真実性と堅牢性、ガバナンス、透明性の 8 つの観点で整理しています。試験では観点の名前を覚えるだけでなく、事業の場面でどの観点が問題になっているかを見分ける力が問われます。たとえば利用者が AI と話していると分かるようにするのは透明性、特定の属性で結果が偏らないようにするのは公平性の問題です。

事業の目標と原則の折り合い

処理の速さや費用の削減を優先すると、説明可能性や人の確認が犠牲になる場面があります。このような衝突では、影響を受ける人は誰か、誤ったときの影響はどれだけ大きいかを基準に折り合いを決めます。判断の理由を記録に残しておくと、後から監査や見直しができます。

人の監督と安全装置

与信や採用、医療のように人の権利や安全に関わる判断や、取り消せない操作には人の監督を置きます。代表的な型は、実行前に人が承認する型、自動の実行を人が監視して介入する型、低リスクの定型だけを任せる完全自動の型で、リスクに応じて選びます。あわせてハルシネーションの検知、ガードレール、人に引き継ぐエスカレーションの基準、監査の記録、停止の手段を備えます。

部門横断のガバナンス体制

AI のガバナンスは IT 部門だけでは担えず、事業、技術、法務、コンプライアンスの代表が加わる部門横断の体制で作ります。AI の判断の結果に誰が責任を持つかを明確にし、リスクの段階に応じて承認の権限を委ねます。すべての案件を経営が承認する形は、利用が広がると判断が滞ります。

リスク分類

AI の用途を、影響を受ける人、誤りの重大さ、結果を取り消せるか、自動化の度合い、データの機密性、適用される規制の観点で段階に分けます。高リスクの用途ほど人の監督、説明、監査を厚くし、低リスクの用途は軽い統制で速く進めます。統制をリスクに比例させることで、安全と導入の速さを両立できます。

規制と枠組み

EU AI 法は AI の用途を禁止、高リスク、限定的なリスク、最小限のリスクの 4 段階に分け、段階に応じた義務を課します。NIST AI RMF は、統治 (GOVERN)、把握 (MAP)、測定 (MEASURE)、管理 (MANAGE) の 4 つの機能で AI のリスク管理を整理した枠組みです。ISO/IEC 42001 は AI マネジメントシステムの規格で、第三者の認証を受けられます。

責任共有モデルと AI

AWS はクラウドの基盤と、基盤モデルを提供する環境のセキュリティに責任を持ちます。利用者は、入力するデータ、プロンプト、アクセス権の設定、ガードレールの設定、出力の使い方に責任を持ちます。既製の AI サービスを使うだけの場合より、自社でモデルを調整したり学習したりする場合のほうが、利用者が担う範囲は広がります。

→ AWS 責任共有モデル

Responsible AI Lens

AWS Well-Architected フレームワークの Responsible AI Lens は、責任ある AI の観点に沿って AI のワークロードの設計と運用を見直すためのベストプラクティス集です。ガバナンスの体制、人の監督、バイアスの監視などが方針どおりに働いているかを、共通の基準で確かめられます。試験で問われるのは、ガバナンスのベストプラクティスを確かめる手段として選べるかどうかです。

アクセス制御とデータの保護

AI システムでは、誰がどのモデルとデータを使えるかを最小限の権限に絞り、機密データを分類して扱いを決めます。プロンプトや出力にも機密情報が含まれ得るため、記録と監査の対象に入れます。試験で問われるのは方針の判断で、IAM のポリシーや暗号鍵の具体的な設定は出題範囲外です。

本番のリスクと対策

バイアスはデータの収集、学習、評価、運用のどの段階でも入り込むため、導入前の 1 回の確認で終わらせず継続して監視します。有害な内容や禁止の話題、個人情報の出力は Amazon Bedrock Guardrails で抑え、知的財産のリスクは出力の確認と利用の方針で管理します。ハルシネーション、データ品質の劣化、モデルドリフトといった信頼性のリスクは、本番の監視と根拠の確認で抑えます。

→ Amazon Bedrock Guardrails 用語集