生成式 AI 基础
您将学到什么
在本领域中，你将学习生成式 AI 的基础模型（Foundation Model）概念，Transformer 与 LLM 的特点，提示工程的基础，Retrieval-Augmented Generation（RAG）、微调等核心技术。这是占 AIF-C01 出题比例 24% 的高频领域，也是当代 AI 应用的核心主题。
要点
- 基础模型（Foundation Model）- 在大规模数据上预训练、可迁移到多种任务的通用模型
- 大语言模型（LLM）- 处理文本的基础模型。GPT、Claude、Llama 等是其代表
- Transformer - 使用自注意力机制（self-attention）的架构，是当前 LLM 的标准结构
- 提示工程 - 设计指令文本（提示）以从 LLM 中引出期望输出的技术
- 零样本 / 少样本 - 不给示例 / 给少量示例让 LLM 执行任务的方法
- RAG（Retrieval-Augmented Generation）- 从外部知识库检索相关信息，加入到 LLM 的提示中以提升回答准确性
- 微调与预训练的区别 - 预训练是在大规模数据上从零开始学习，微调是将已有模型针对特定用途进行追加学习
- 幻觉 - LLM 将不符合事实的内容生成得似是而非的现象。可通过 RAG 或验证加以抑制
术语与概念
基础模型（Foundation Model）
在大量通用数据上预训练，并可通过微调或提示应用于多种任务的大规模模型。其用途正在不断扩展，涵盖文本用的 LLM、图像生成、语音、多模态等。在 Bedrock 上可通过 API 使用多种基础模型。
提示工程
通过对提示 LLM 的指令文本进行精心设计，以引出期望输出的技术。包括指定角色（「你是一名医生」）、指定输出格式（「用 JSON 回答」）、提供示例（少样本）、引导逐步思考（Chain-of-Thought）等技巧。
RAG（Retrieval-Augmented Generation）
从外部知识库（企业内部文档、数据库等）检索与问题相关的信息，将这些信息加入 LLM 的提示后再生成回答的方法。它可以弥补 LLM 知识陈旧或不存在的信息，并抑制幻觉。通常与 Bedrock Knowledge Bases 或 Kendra 结合实现。
微调与预训练
预训练（pre-training）是在大规模数据上从零训练基础模型的过程，需要庞大的计算资源。微调是在已预训练的模型上，使用特定领域（法律、医疗等）的少量数据进行追加学习的过程，能够在控制成本的同时提升专业性。
幻觉（Hallucination）
LLM 将训练数据中没有的信息或与事实不符的内容生成得似是而非的现象。其原因在于模型「生成最自然接续的文字」的特性。可通过 RAG 提供依据、用护栏（Guardrails）验证输出、人工审核等方式抑制其影响。
检验理解程度
用 5 道题检验所学内容