负责任 AI 准则
您将学到什么
在本领域中，你将学习以对社会和用户负责的方式开发与运营 AI 系统的准则。目标是掌握 AWS 提出的「负责任 AI」八个核心维度（公平性、可解释性、隐私与安全、安全性、可控性、真实性与稳健性、治理、透明性），以及 SageMaker Clarify、SageMaker Model Monitor 等实现工具。
要点
- 负责任 AI 的八个核心维度 - 公平性（Fairness）、可解释性（Explainability）、隐私与安全、安全性（Safety）、可控性（Controllability）、真实性与稳健性（Veracity and Robustness）、治理、透明性（Transparency）
- 偏差 - 因训练数据或设计上的偏倚，导致模型对特定属性（性别、人种等）做出不公平预测的问题
- 可解释性（Explainability）- 以人类可理解的形式呈现模型预测依据的能力。关系到对判断的认同感
- 以人为中心的设计 - 向用户展示 AI 判断的依据，并通过接收反馈的机制推动改进
- SageMaker Clarify - 检测数据和模型偏差，并以特征重要度提供可解释性的工具
- SageMaker Model Monitor - 监控生产运营中的模型是否出现与训练时不同的行为（数据漂移）
- 透明性的工具 - SageMaker Model Cards（记录）、SageMaker Clarify（偏差与解释）、Bedrock 的模型评估、开源模型、数据与许可证的公开
- 隐私 - 不将个人信息混入训练数据、推理时不将其输出的设计非常重要
- AWS AI Service Cards - 记录了 AWS 各 AI 服务预期用途与限制的文档卡片
术语与概念
负责任 AI 的八个核心维度
AWS 将负责任 AI 归纳为八个核心维度。即公平性（消除歧视）、可解释性（说明判断依据）、隐私与安全（保护个人信息并防止滥用）、安全性（抑制有害输出）、可控性（监控和控制 AI 行为的机制）、真实性与稳健性（准确的输出与对异常输入的耐受性）、治理（组织化管理）、透明性（公开能力与局限）。这是所有 AI 开发都应关注的指针。
偏差与公平性
如果训练数据存在偏倚，模型就会对特定属性（性别、人种、年龄等）做出不公平预测，即产生「偏差」。例如，若过去的招聘数据中男性比例偏高，模型就可能倾向于对男性给予有利评价。可通过数据再平衡、用公平性指标进行评估、审查训练数据来防止。
可解释性（Explainability）
以人类可理解的形式呈现模型为何做出该预测的能力。在贷款审批或医疗诊断中，若无法说明「为何被拒 / 为何得出该诊断」，就难以获得认同感。通常用 SHAP 值或特征重要度来说明，SageMaker Clarify 是 AWS 的主要工具。
以人为中心的设计
可解释 AI 的以人为中心的设计，重视让使用 AI 的人理解结果、发现并纠正错误。把 AI 为何做出该判断，连同依据和置信度一起展示，并让用户知道这是 AI 给出的结果。准备回答的评价按钮、更正的输入栏等接收用户反馈的机制，把收集到的意见用于改进模型和提示。
SageMaker Clarify 与 Model Monitor
Clarify 提供训练前的数据偏差检测、训练后的模型偏差检测，以及基于特征重要度的可解释性。Model Monitor 持续监控生产运营中的模型是否出现与训练时不同的行为（数据漂移或预测漂移）。两者都是实现负责任 AI 的核心工具。另外，截至 2026 年 10 月，SageMaker Clarify 已停止受理新用户，只有现有用户可以使用。
透明性与可解释性的工具
模型的透明性，通过关于模型记录了什么、公开了什么来确认。SageMaker Model Cards 是把模型的用途、风险分级、训练的详细信息、评估结果记录在 1 处的文档。SageMaker Clarify 是生成偏差指标以及显示哪些特征对预测起作用的报告的工具，Amazon Bedrock 的模型评估是留存基础模型回答质量测量结果的工具。开源模型公开了权重、训练数据、许可证条件，相应地更容易确认其内容，可使用的范围也依据许可证来判断。
AWS AI Service Cards
AWS 针对各 AI 服务公开了记录其预期用途、限制事项及负责任使用准则的「AI Service Card」。例如，Rekognition 的人脸比对功能中明确标注了「不建议用于执法」等限制。这是在采用服务前应当确认的重要文档。