Amazon Bedrock 热门2023年〜
通过 API 使用主流基础模型的全托管生成式 AI 服务
它能做什么
Amazon Bedrock 是一项全托管服务,可通过统一 API 使用 Amazon、Anthropic、Meta、Mistral AI 等多家 AI 公司提供的基础模型(Foundation Model)。无需管理基础设施即可将文本生成、图像生成、嵌入(Embedding)、聊天等生成式 AI 功能集成到应用中。还支持使用自有数据进行模型定制(微调、RAG),可构建针对企业特定用例优化的 AI。
使用场景
用于构建客服自动应答聊天机器人、利用企业内部知识库的 RAG(检索增强生成)系统、营销内容自动生成、代码自动生成和审查辅助、文档摘要和翻译、通过图像生成进行创意制作等各类生成式 AI 应用。
日常类比
可以将其比作美食广场。自己开餐厅(AI 模型)需要巨额投资,但在美食广场(Bedrock)可以在同一地点点到多家名店(Anthropic、Meta 等)的菜品。菜单(API)是统一的,换店点餐方式也一样。还可以要求定制口味(自定义)。
什么是 Bedrock
Amazon Bedrock 是 AWS 提供的生成式 AI 平台。最大特点是可通过单一 API 访问多家 AI 公司的基础模型。无需自行训练或托管模型,只需调用 API 即可利用最先进的 AI 功能。支持的模型包括 Anthropic Claude、Meta Llama、Amazon Titan 等,可根据用途选择最合适的模型。
Knowledge Bases 与 RAG
Bedrock 的 Knowledge Bases 功能可轻松实现 RAG(检索增强生成)。将企业内部文档和数据注册为知识库后,AI 在回答时会参考这些信息生成准确的回复。数据存储在 S3 中,向量化和检索由 Bedrock 自动处理。可大幅减少 AI 的幻觉(虚假信息生成),提供基于企业自有数据的可靠回答。 关于 Knowledge Bases 和 RAG 的实践方法,可以参考相关书籍(Amazon)。
Agents 与护栏
Bedrock Agents 可让 AI 自主执行多步骤任务。例如"查询库存并下单"这样跨多个系统的操作,Agent 会自动分解步骤并依次执行。Guardrails(护栏)功能可过滤 AI 的不当输出,阻止有害内容和敏感信息的泄露。两者结合可构建安全且实用的 AI 应用。
注意事项
- 按输入/输出 token 数计费,长文本处理时成本可能较高。请根据用途选择合适的模型
- Knowledge Bases 的数据需要定期同步。数据更新后需重新执行向量化
- 各模型的能力和特点不同,建议在 Bedrock Playground 中试用后再选择