AI 基础知识和素养

AI、机器学习、生成式 AI 的区别

AI 是用机器再现人类智能活动的技术的总称，ML 是从数据中学习规律的 AI 方法，深度学习是使用多层神经网络的一种 ML。生成式 AI 是使用在大量数据上训练的基础模型来生成文本、图像等新内容的领域。考试考查的是针对业务课题判断适用哪类技术的能力。

→ AWS AI / ML 服务的层次

算法、模型、训练、推理

算法是从数据中学习的步骤，模型是按该步骤从过去的数据中学到的成果。训练指构建模型的环节，推理指用训练好的模型对新数据进行预测或生成的环节。使用基础模型时是借用已训练好的模型，因此日常费用的核心是推理。

→ Amazon SageMaker AI 术语表

数据的种类与质量

与销售表、客户台账这样的结构化数据相对，邮件、合同、图像、通话录音等属于非结构化数据。生成式 AI 扩大了在业务中利用非结构化数据的场景。另一方面，AI 会把训练数据的质量和偏差原样反映到结果中，因此必须确认数据的准确性、完整性和时效性。

基于规则的自动化与 AI 的区分使用

像费用上限检查这样规则明确、能完整说明判断理由、不允许出错的处理，适合基于规则的自动化而不是 AI。像咨询内容分类或需求预测这样模式复杂、例外多的处理，则适合 AI。把 AI 用在不需要 AI 解决的问题上，往往只会增加费用和解释的难度。

AI 智能体

AI 智能体是朝着给定目标自行决定步骤、调用外部工具和系统推进工作的机制。与只回答问题的聊天机器人不同，它还会执行登记预约、创建单据这样的行动。也有多个智能体分工协作、通过编排控制整体流程的形式。

→ Amazon Quick 在业务中的应用

模型漂移与持续监控

在生产环境中使用的 AI，一旦客户行为、市场或输入数据的趋势发生变化，性能就会比导入时下降。这种现象称为模型漂移，因此 AI 并非导入即结束，而要以持续监控性能、重新评估和更新为前提来规划。监控和重新训练的费用也需要作为运维费用预先估算。

影子 AI

员工在业务中使用组织未批准的 AI 工具称为影子 AI，它会导致机密信息泄露或违反法规。对策是把 AI 工具分为批准、阻止、评估中并公开，准备已批准的替代方案并开展培训。全面禁止因为没有替代手段，容易增加隐蔽使用，是典型的错误选项。

提示词与上下文窗口

在提示词中明确写出希望模型承担的角色、作为背景的上下文、具体指令和输出形式，就更接近期望的回答。模型一次能处理的令牌量有上限（上下文窗口），把长篇资料整份交给模型，信息会遗漏，回答质量会下降。需要筛选资料、先摘要再交给模型等做法。

→ 模型选型与提示词设计

RAG 与微调

RAG 是检索公司内部文档等外部知识并加入提示词，从而给出最新且有依据的回答的方法。微调是用追加数据训练基础模型，使语气、格式和专业领域中的行为与需求一致的方法。想反映新知识用 RAG，想改变行为用微调，基本顺序是先从改进提示词开始尝试。Amazon Bedrock Knowledge Bases 以托管形式提供从导入公司内部文档到检索的功能，无需从零搭建 RAG 即可使用。

→ 使用 Bedrock Knowledge Bases 实现 RAG / → Amazon Bedrock 术语表

AI 国际标准

ISO/IEC 22989 是规定 AI 概念与术语的标准，是相关人员使用同一套语言沟通的基础。ISO/IEC 23053 是展示使用 ML 的 AI 系统构成要素的框架。ISO/IEC 42001 是规定组织管理 AI 的机制（AI 管理体系）要求的标准，可以接受第三方认证。可以这样记：术语看 22989，使用 ML 的系统框架看 23053，可认证的管理机制看 42001。