经典案例

首页
使用 Amazon Titan Text Premier、Amazon Bedrock 和 AWS

使用 Amazon Titan Text Premier、Amazon Bedrock 和 AWS

使用 Amazon Titan Text Premier、Amazon Bedrock 和 AWS CDK 构建生成式 AI 应用程序

作者：Alain Krok、Anupam Dewan、Justin Lewis 和 Laith AlSaadoon，2024年5月14日在 Amazon Bedrock、公告、人工智能和生成式 AI 上发布永久链接评论分享

重点摘要

Amazon Titan Text Premier 现已在 Amazon Bedrock 中全面推出，旨在为企业级文本生成应用提供高性能支持。本文介绍了如何构建两个使用 Amazon Titan Text Premier 的示例应用，借助开放源代码的 AWS 生成式 AI CDK 组件加速开发和部署。应用示例包括文档浏览器和 Amazon Bedrock 代理，前者能处理文档生成和问答，后者利用 RAG 技术从 Project Gutenberg 的书籍中获取信息。

Amazon Titan Text Premier 是 Amazon Titan 大型语言模型LLM家族的最新成员，现在可以在 Amazon Bedrock 中使用。Amazon Bedrock 是一项完全托管的服务，通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型FMs，并带有构建生成式 AI 应用所需的安全、隐私和负责任 AI 的广泛能力。

Amazon Titan Text Premier 是一款高级、高性能且具成本效益的 LLM，旨在为企业级文本生成应用提供卓越的性能，包括对检索增强生成RAG和代理的优化性能。该模型是从头开始构建的，遵循安全、可靠和可信的负责任 AI 实践，精于以大规模提供出色的生成式 AI 文本能力。

作为 Amazon Bedrock 的独特功能，Amazon Titan Text 模型支持多种文本相关任务，包括摘要生成、文本生成、分类、问答和信息提取。借助 Amazon Titan Text Premier，您可以为文本生成需求打开新的效率和生产力水平。

在本文中，我们将探讨如何构建和部署两个以 Amazon Titan Text Premier 为基础的示例应用。为了加速开发和部署，我们使用开源的 AWS 生成式 AI CDK 组件说明由 Werner Vogels 在 AWS reInvent 2023 上发布。AWS Cloud Development KitAWS CDK组件加速了应用开发，提供开发人员可以无缝集成到应用中的可重用基础设施模式，让您专注于使应用与众不同的内容。

文档浏览器示例应用

文档浏览器示例生成式 AI 应用可以帮助您快速理解如何在 AWS 上构建端到端的生成式 AI 应用。它包含生成式 AI 应用中需要的关键组件示例，如：

数据摄取管道摄取文档，将其转换为文本，并将其存储在知识库中以供检索。这使得像 RAG 这样的用例能够根据您的数据定制生成式 AI 应用。文档摘要通过 Amazon Bedrock 中的 Amazon Titan Premier 摘要 PDF 文档。问题回答通过从知识库中检索相关文档，利用 Amazon Titan Premier 这样的 LLM 回答自然语言问题。

请遵循 README 中的步骤，在您的账户中克隆并部署该应用。该应用部署了所需的全部基础设施，如下图架构图所示。

在部署完应用后，通过在导航面板中选择选择文档将示例 PDF 文件上传到输入 Amazon 简单存储服务Amazon S3桶。例如，您可以下载 19972023 年亚马逊年报并通过网页界面上传。在 Amazon S3 控制台中，您可以看到上传的文件现在存储在以 persistencestackinputassets 开头的 S3 桶中。

上传文件后，打开文档以查看其在浏览器中的渲染效果。

在导航面板中选择问答，然后选择您偏好的模型在此示例中为 Amazon Titan Premier。您现在可以针对上传的文档提问。

下图说明了文档浏览器中的示例工作流程。

请记得删除 AWS CloudFormation 堆栈，以避免意外收费。首先，确保从 S3 桶中删除所有数据，特别是以 persistencestack 开头的桶中的任何数据。然后在终端运行以下命令：

shellcdk destroy all

Amazon Bedrock 代理和自定义知识库示例应用

Amazon Bedrock 代理和自定义知识库示例生成式 AI 应用是一个聊天助手，旨在通过从 Project Gutenberg 的图书资料中使用 RAG 技术回答文学问题。

此应用部署了一个 Amazon Bedrock 代理，可以查询由 Amazon OpenSearch Serverless 支持的 Amazon Bedrock 知识库作为向量存储。还创建了一个 S3 桶来存储知识库中的图书。

请遵循 README 中的步骤，在您的账户中克隆示例应用。下图展示了已部署解决方案的架构。

更新文件，定义在创建代理时要使用的基础模型：

shellconst agent = new bedrockAgent(this Agent { foundationModel bedrockBedrockFoundationModelAMAZONTITANPREMIERV10 instruction You are a helpful and friendly agent that answers questions about literature knowledgeBases [kb]})

请遵循 README 中的步骤，在您的账户中部署代码示例并导入示例文档。

导航到您所在 AWS 区域的 Amazon Bedrock 控制台上的代理页面，找到新创建的代理。AgentId 可以在 CloudFormation 堆栈输出部分找到。

现在，您可以开始提问。您可能需要告诉代理您想询问的书籍，或者在询问不同书籍时刷新会话。以下是一些您可以询问的示例问题：

加速器电脑版图书馆中最受欢迎的书籍是什么？谁在梅里顿的舞会上对宾利先生情有独钟？

以下截图展示了工作流程示例。

请记得删除 CloudFormation 堆栈以避免意外收费。清空 S3 桶中的所有数据，然后在终端运行以下命令：

shellcdk destroy

结论

Amazon Titan Text Premier 今日在美国东部弗吉尼亚州北部区域可用。Amazon Titan Text Premier 的自定义微调也已在美国东部弗吉尼亚州北部区域以预览形式提供。请查看完整区域列表以获取未来更新。

使用 Amazon Titan Text Premier、Amazon Bedrock 和 AWS

要了解有关 Amazon Titan 系列模型的更多信息，请访问 Amazon Titan 产品页面。有关定价详情，请查看 Amazon Bedrock 定价。请访问 AWS 生成式 AI CDK 组件 GitHub 仓库获取更多可用组件和附加文档的细节。要获取入门的实用示例，请查看 AWS 示例仓库。