基础模型的应用
您将学到什么
在本领域中，你将学习 AWS 提供的主要 AI / ML 服务。核心主题是区分与选用基础模型 API 的 Amazon Bedrock、机器学习平台的 Amazon SageMaker、面向业务的助手 Amazon Q，以及特定用途的 AI 服务（Comprehend、Rekognition、Transcribe 等）。这是占 AIF-C01 出题比例 28% 的最大领域。
要点
- Amazon Bedrock - 可通过统一 API 调用多种基础模型的服务。能以无服务器方式使用 Anthropic、Meta 等各家厂商的模型以及 Amazon 自研的 Nova
- Bedrock Prompt Management - 带变量保存提示，比较多个方案，并由应用程序指定版本调用
- Amazon SageMaker - 从数据准备到模型开发、训练、部署一气呵成地提供支持的 ML 平台
- Amazon Q - 面向业务的生成式 AI 助手。分为 Q Developer（开发支持）与 Q Business（企业内部文档检索）
- 特定用途 AI - Comprehend（文本分析）、Translate（翻译）、Transcribe（语音→文本）、Polly（文本→语音）、Rekognition（图像、视频分析）、Textract（从文档中提取文本）
- 搜索、对话与人工审核 - Kendra（企业内部文档的语义搜索）、Lex（对话机器人）、Personalize（个性化推荐）、A2I（由人工审核 AI 的判定结果）
- Bedrock Knowledge Bases - 可用自有数据轻松实现 RAG 的 Bedrock 功能
- 模型蒸馏 - 用大模型（教师）的回答训练小模型（学生），降低推理费用和延迟的定制方式
- Bedrock Agents - 可在 Bedrock 上构建自主执行多个步骤的 AI 智能体的功能
- AI 智能体 - 把请求拆分为步骤并调用工具，自主地把工作推进到最后。构建用的 SDK 的一个例子是 Strands Agents，在生产环境中运行的平台是 Bedrock AgentCore
- 基础模型的评估 - 除了基准测试、由人为回答打分的评估（人工参与，human-in-the-loop）、LLM-as-a-judge（Bedrock 的模型评估）之外，还要用任务完成率、满意度、每次的费用来确认与业务目标的一致
- Bedrock Guardrails - 防止不当言论或个人信息泄露的护栏功能
术语与概念
Amazon Bedrock
一项可通过单一 API 调用多家厂商基础模型的全托管服务（截至 2026 年 8 月，包括 Anthropic、Meta、Mistral AI 各家的模型以及 Amazon 自研的 Nova 等，阵容仍在持续扩充）。能以无服务器方式使用，并提供 Knowledge Bases（RAG）、Agents、Guardrails 等附加功能。
Bedrock Prompt Management
Amazon Bedrock Prompt Management 是创建、测试、保存可重复使用的提示的功能（截至 2026 年 10 月）。可以在提示中放入变量，按用途替换取值，并比较模型或推理参数不同的多个方案（变体）的输出，从中选出好的方案。在改进过程中保存版本，应用程序指定版本进行调用，因此可以一边试用新版本，一边在生产环境中继续使用已验证的版本。
Amazon SageMaker
支持 ML 模型开发全流程（数据准备、训练、评估、部署、运维）的平台。用 SageMaker Studio 进行开发，用 SageMaker Training 进行训练，用 SageMaker Endpoint 提供生产推理。当你希望从零打造自有模型时，它非常强大。
Amazon Q（Q Developer / Q Business）
Amazon Q 是 AWS 提供的面向业务的生成式 AI 助手。Q Developer 提供代码生成、审查、AWS 资源操作支持，Q Business 是基于企业内部文档通过 RAG 回答问题的企业知识助手。它以 SaaS 形态提供，可即刻使用。
特定用途 AI 服务的区分使用
Comprehend（情感分析、实体抽取）、Translate（机器翻译）、Transcribe（语音→文本）、Polly（文本→语音）、Rekognition（人脸检测、物体检测、内容审核）、Textract（从 PDF、图像中提取结构化文本）分别是为各自用途做了专门优化的 API。它们可以简单、快速、低成本地引入。
Bedrock Guardrails 与 Knowledge Bases
Knowledge Bases 是从 S3 等数据源构建 RAG 的 Bedrock 功能，可自动完成检索与提示整合。Guardrails 是阻止不当内容、个人信息、特定主题等的过滤器，可确保企业使用所需的安全性。
模型蒸馏
模型蒸馏是利用大而聪明的模型（教师）的回答，针对特定用途训练小而快、成本低的模型（学生）的定制方式。在 Amazon Bedrock 的模型蒸馏中，可以让教师根据准备好的提示生成回答，或使用生产环境调用日志中留存的教师回答，再用这些回答对学生进行微调（截至 2026 年 10 月）。定制的费用以提示的改进（上下文学习）最低，依次按 RAG、微调、预训练的顺序变重。蒸馏需要付出训练的工夫，但得到的模型较小，因此可以降低运营中的推理费用和延迟。
AI 智能体的作用与业务中的用法
AI 智能体是把用户的请求拆分为步骤，收集所需信息，调用 API 或工具，把工作推进到最后的机制。在业务中，用于回答咨询并执行手续、自动化跨多个系统的处理、调查企业内部数据并编写报告等。也有像 AWS Transform 这样把旧应用程序或服务器的迁移交给智能体的服务。构建智能体的工具和在生产环境中运行的平台，请参阅「GenAI 基础知识」中的「构建生成式 AI 的 AWS 工具」。还有在 Bedrock 中通过设置来构建的 Amazon Bedrock Agents（截至 2026 年 10 月）。
评估的推进方法与业务目标的一致
基础模型的性能，通过组合使用在既有基准数据集上的自动评估、由人为回答打分的评估（人工参与，human-in-the-loop）、让另一个 LLM 打分的 LLM-as-a-judge 来衡量。截至 2026 年 10 月，Amazon Bedrock 的模型评估除了这 3 种方法之外，还能评估使用 Knowledge Bases 的 RAG 的检索和回答。指标的数值好，不一定对业务有用。还要一并确认任务完成率（请求被处理到最后的比例）、用户满意度、每次交互的费用等与业务目标挂钩的指标。
Kendra 与 Q Business 的区别
Kendra 是基于机器学习的企业级搜索引擎，按语义搜索企业内部文档并返回「相关的文档或段落」。Q Business 则在搜索之外，还由生成式 AI 组织出「答案本身」并返回，是一个成品助手。也就是说，Kendra 是搜索组件（也可用作 RAG 的检索侧），而 Q Business 是包含搜索 + 生成的现成解决方案——这就是两者的对比。
Personalize / Lex / A2I
Personalize 是基于 Amazon.com 推荐技术的个性化推荐服务，可实现「看过此商品的人还看了这些」之类的个性化体验。Lex 是构建语音、文本聊天机器人的服务，采用与 Alexa 相同的对话技术，常用于联络中心的自动应答等场景。A2I（Augmented AI）则用于构建这样一种工作流：只把 AI 推理结果中置信度较低的部分转交给人工审核员，通常与 Textract 或 Rekognition 结合使用。
→ 使用 Personalize 构建推荐引擎 / → 使用 Lex 构建聊天机器人 / → Textract 与 A2I 的人工审核