负责任 AI 准则
您将学到什么
在本领域中，你将学习以对社会和用户负责的方式开发与运营 AI 系统的准则。目标是掌握 AWS 提出的「负责任 AI」六个维度（公平性、可解释性、隐私、安全性、稳健性、治理），以及 SageMaker Clarify、SageMaker Model Monitor 等实现工具。
要点
- 负责任 AI 的六个维度 - 公平性（Fairness）、可解释性（Explainability）、隐私、安全性 / 安全防护、稳健性（Robustness）、治理
- 偏差 - 因训练数据或设计上的偏倚，导致模型对特定属性（性别、人种等）做出不公平预测的问题
- 可解释性（Explainability）- 以人类可理解的形式呈现模型预测依据的能力。关系到对判断的认同感
- SageMaker Clarify - 检测数据和模型偏差，并以特征重要度提供可解释性的工具
- SageMaker Model Monitor - 监控生产运营中的模型是否出现与训练时不同的行为（数据漂移）
- 隐私 - 不将个人信息混入训练数据、推理时不将其输出的设计非常重要
- AWS AI Service Cards - 记录了 AWS 各 AI 服务预期用途与限制的文档卡片
术语与概念
负责任 AI 的六个维度
AWS 将负责任 AI 归纳为六个维度。即公平性（消除歧视）、可解释性（说明判断依据）、隐私（保护个人信息）、安全性 / 安全防护（防止恶意利用）、稳健性（对异常输入的耐受性）、治理（组织化管理）。这是所有 AI 开发都应关注的指针。
偏差与公平性
如果训练数据存在偏倚，模型就会对特定属性（性别、人种、年龄等）做出不公平预测，即产生「偏差」。例如，若过去的招聘数据中男性比例偏高，模型就可能倾向于对男性给予有利评价。可通过数据再平衡、用公平性指标进行评估、审查训练数据来防止。
可解释性（Explainability）
以人类可理解的形式呈现模型为何做出该预测的能力。在贷款审批或医疗诊断中，若无法说明「为何被拒 / 为何得出该诊断」，就难以获得认同感。通常用 SHAP 值或特征重要度来说明，SageMaker Clarify 是 AWS 的主要工具。
SageMaker Clarify 与 Model Monitor
Clarify 提供训练前的数据偏差检测、训练后的模型偏差检测，以及基于特征重要度的可解释性。Model Monitor 持续监控生产运营中的模型是否出现与训练时不同的行为（数据漂移或预测漂移）。两者都是实现负责任 AI 的核心工具。
AWS AI Service Cards
AWS 针对各 AI 服务公开了记录其预期用途、限制事项及负责任使用准则的「AI Service Card」。例如，Rekognition 的人脸比对功能中明确标注了「不建议用于执法」等限制。这是在采用服务前应当确认的重要文档。
检验理解程度
用 5 道题检验所学内容