2024-09-25 20:31:50 英文原文

使用 Amazon Bedrock 的生成式 AI 提高员工生产力

员工生产力 GenAI 助手示例是一款实用的 AI 驱动解决方案，旨在简化写作任务，让团队能够专注于创造力而不是重复性工作内容创作。该工具基于 AWS Lambda、Amazon API Gateway 和 Amazon DynamoDB 等 AWS 技术构建，可自动创建可自定义模板并支持文本和图像输入。它使用 Amazon Bedrock 的 Anthropics Claude 3 等生成式 AI 模型，提供了一种可扩展、安全且高效的方式来生成高质量内容。无论您是人工智能新手还是经验丰富的用户，这个简化的界面都可以让您快速利用此示例代码的强大功能，增强您的团队的编写能力，并使他们能够专注于更有价值的任务。

通过使用 Amazon Bedrock 和 AWS 上的生成式 AI，组织可以加快创新周期，释放新的商机，并提供由生成式 AI 技术的最新进展提供支持的创新解决方案，同时保持高标准的安全性、可扩展性和运营效率。

Employee GenAI Assistant 示例：主要功能

在本节中，我们将讨论 Employee Productivity GenAI Assistant 示例的主要功能及其控制台选项。

Employee Productivity GenAI Assistant 示例的 Playground 页面旨在与 Amazon 上的 Anthropics Claude 语言模型进行交互基岩。在此示例中，我们探索如何使用 Playground 功能请求一首有关纽约市的诗，并将模型响应动态流式传输回用户。

此过程包括以下步骤：

• Playground 界面提供了一个下拉菜单来选择要使用的特定 AI 模型。在本例中，请使用

  claude-3:sonnet-202402229-v1.0

  ，它是 Anthropics Claude 3 的一个版本。
• 在“输入”字段中，输入提示“Write a”关于纽约的诗，请求 AI 模型创作一首关于纽约的诗。
• 输入提示后，选择“提交”。这会将 API 请求发送到托管 Anthropics Claude 3 Sonnet 语言模型的 Amazon Bedrock。

当 AI 模型处理请求并生成诗歌时，它会实时流回输出时间，允许您逐字或逐行观察生成的文本。

模板页面列出了各种预定义的示例提示模板，例如 Interview Question Crafter、Perspective Change Prompt、Grammar Genie 和 Tense更改提示。

现在让我们创建一个名为

Product Naming Pro

的模板：

• 通过选择“添加提示模板”来添加自定义提示。
• 输入

  Product Naming Pro

  作为名称，并

  根据描述和关键字创建朗朗上口的产品名称

  作为描述。
• 选择

  anthropic.claude-3:sonnet-202402229-v1.0

  作为模型。

模板部分包含系统提示选项。在此示例中，我们为系统提示提供了创建有效产品名称的指导，这些名称能够捕捉产品的本质并留下持久的印象。

${INPUT_DATA}

字段是一个占位符变量，允许模板用户提供其输入文本，该文本将合并到系统使用的提示中。模板的可见性可以设置为公共或私有。解决方案部署中经过身份验证的用户可以看到公共模板，确保只有拥有帐户和正确身份验证的用户才能访问它。相比之下，私有模板仅对您自己的经过身份验证的用户可见，确保您独享。还会显示其他信息，例如创建者的电子邮件地址。

该界面展示了

产品命名

Pro模板的创建，该模板旨在根据描述和关键字生成吸引人的产品名称，启用高效的提示工程。

在“活动”页面上，您可以选择提示模板以根据提供的输入生成输出。

以下步骤演示如何使用“活动”功能：

• 选择上一节中创建的

  Product Naming Pro

  模板。
• 在输入字段中输入描述：

  A Noise-取消、无线、耳罩式耳机，电池寿命为 20 小时，并具有触摸控制功能。专为发烧友和常旅客设计。

• 添加相关关键词：

  沉浸式、舒适、高保真、持久、便捷。

• 提供输入说明和关键字后，选择“提交”。

输出部分显示根据输入生成的五个建议产品名称。例如，SoundScape Voyager、AudioOasis Nomad、EnvoyAcoustic、FidelityTrek 和 SonicRefuge Traveler。

该模板已处理产品说明和关键字，以创建朗朗上口且具有描述性的产品名称建议，从而抓住降噪的本质专为发烧友和经常旅行者设计的无线耳罩式耳机。

历史记录页面显示应用程序内执行的交互和活动的日志，包括在 Playground 和活动页面上发出的请求。

在界面顶部，有一条通知指示文本已复制到剪贴板，使您能够复制生成的输出或提示以在其他地方使用。

“查看”和“删除”选项允许您查看分别查看交互的完整详细信息或从历史记录日志中删除该条目。

“历史记录”页面提供了一种跟踪和重新访问应用程序内过去活动的方法，提供透明度并允许您参考或管理您的之前与系统的交互。历史记录保存您在 Playground 和 Activity 页面上的输入和输出（在撰写本文时，尚不支持聊天页面历史记录）。您只能看到自己的用户请求历史记录，保障安全和隐私，其他用户无法访问您的数据。此外，如果您不想保留历史记录中存储的记录，您可以随时选择删除它们。

交互式聊天界面显示聊天对话。助理会向用户打招呼，然后选择 Product Naming Pro 模板，并提供专为发烧友和常旅客设计的降噪无线耳机的产品说明。助理会根据描述给出初始产品名称推荐。然后，用户请求其他推荐，助手会再提供五个产品名称建议。此交互式对话重点介绍了聊天功能如何允许与 AI 模型进行持续的自然语言交互，以优化响应并探索多个选项。

在以下示例中，用户选择一个 AI 模型（例如，

anthropic.claude-3-sonnet-202402280-v1.0

）并为该模型提供输入。名为

headphone.jpg

的图像已上传，用户询问请向我详细描述上传的图像。

用户选择“提交”，并显示 AI 模型输出，提供耳机图像的详细描述。它将耳机描述为耳罩式无线耳机，采用全黑配色方案，设计时尚现代。它提到了耳罩和头带上的哑光黑色饰面，以及填充良好的柔软皮革或人造革材料，可在长时间聆听时提供舒适感。

这展示了多模态模型的强大功能，例如Amazon Bedrock 上的 Anthropics Claude 3 系列，允许您在 Playground 或活动页面上上传和使用最多六张图像作为输入，以生成上下文丰富的多模式响应。

解决方案概述

员工生产力 GenAI 助手示例基于强大的 AWS 无服务器技术（例如 AWS Lambda、API Gateway、DynamoDB 和 Amazon Simple Storage Service (Amazon S3)）构建，通过 Amazon Cognito 保持可扩展性、高可用性和安全性。这些技术提供了一个基础，使员工生产力 GenAI 助手示例能够按需响应用户需求，同时保持严格的安全标准。其生成能力的核心源自 Amazon Bedrock 中强大的 AI 模型，有助于快速交付定制的高质量内容。

下图说明了解决方案架构。

员工生产力 GenAI 助手示例的工作流程包括以下步骤：

• 用户访问 us-east-1 AWS 区域中托管的静态网站，并使用 AWS WAF 进行保护。应用程序的前端由托管在 S3 存储桶（S3 React Frontend）上的 React 应用程序组成，使用 Amazon CloudFront 进行分发。
• 用户可以从静态网站发起 REST API 调用，这些调用通过 API 进行路由网关。API Gateway 管理这些调用并与多个组件交互：
  • API 与 DynamoDB 表交互以存储和检索模板及历史数据。
  • API 与基于 Python 的 Lambda 函数通信以处理请求。
  • API 生成预签名 URL，用于向 S3 存储桶上传和下载图像（S3 图像）。
• API Gateway 与 Amazon Cognito 集成以进行用户身份验证和授权，管理用户和组。
• 用户使用 API Gateway 提供的预签名 URL 将图像上传到 S3 存储桶（S3 图像）。
• 当用户请求图像下载时，Lambda 授权者调用用 Java 编写的函数，将请求记录在历史数据库（DynamoDB 表）中。
• 对于流数据，用户与 API Gateway WebSocket 建立 WebSocket 连接，API Gateway WebSocket 与 Python Lambda 函数交互来处理流数据。流数据在传输到 Amazon Bedrock 流服务之前经过处理。

在 Amazon Bedrock 中运行生成式 AI 工作负载提供了一个强大而安全的环境，可以无缝扩展，以帮助满足苛刻的计算要求生成式人工智能模型。Amazon Bedrock 的分层安全方法建立在 AWS 提供的全面安全服务的基本原则之上，为处理敏感数据和处理 AI 工作负载提供了一个强化的环境。其灵活的架构允许组织使用 AWS 弹性计算资源根据工作负载需求动态扩展，从而提供高效的性能和成本控制。此外，Amazon Bedrock 的模块化设计使组织能够集成其现有的 AI 和机器学习 (ML) 管道、工具和框架，从而促进向 AWS 生态系统内安全且可扩展的生成式 AI 基础设施的无缝过渡。

<除了交互功能之外，员工生产力 GenAI 助手示例还提供了一个强大的架构模式，用于在 AWS 上构建生成式 AI 解决方案。通过使用 Amazon Bedrock 和 AWS 无服务器服务（例如 Lambda、API Gateway 和 DynamoDB），员工生产力 GenAI 助手示例演示了部署生成式 AI 应用程序的可扩展且安全的方法。您可以使用此架构模式作为基础来构建针对不同用例定制的各种生成式 AI 解决方案。此外，该解决方案包括一个基于 React 框架构建的可重用的组件驱动的 UI，使开发人员能够快速扩展和自定义界面以满足他们的特定需求。该示例还展示了使用 WebSocket 实现流媒体支持，允许在基于聊天的交互和一次性请求中进行实时响应，从而增强生成式 AI 助手的用户体验和响应能力。

先决条件

您应该满足以下先决条件：

• AWS 账户
• 使用 Lambda、API Gateway、Amazon Bedrock、Amazon Cognito、CloudFront、AWS WAF、Amazon S3 和 DynamoDB

部署解决方案

要部署和使用应用程序，请完成以下步骤：

• 将 GitHub 存储库克隆到您的 AWS 环境中：
• 如果您想从计算机进行部署，请参阅如何本地部署部分。
• 如果您想，请参阅如何通过 AWS CloudShell 进行部署从您的 AWS 账户中的 AWS CloudShell 进行部署。
• 部署完成后，请参阅部署后步骤以开始使用。
• 请参阅演示以查看解决方案功能和特性的示例。

运行员工生产力 GenAI 助手示例的成本估算

运行员工生产力 GenAI 助手示例的成本将根据您选择的 Amazon Bedrock 模型和使用情况而有所不同模式以及您使用的区域。主要成本驱动因素是 Amazon Bedrock 模型定价以及用于托管和运行应用程序的 AWS 服务。

对于此示例，我们假设有 50 个用户的场景，每个用户每天使用此示例代码五次，平均每次使用500个输入代币，200个输出代币。

每月代币使用总量计算如下：

• 输入代币：750万个
  • 每个请求 500 个代币 * 每天 5 个请求 * 50 个用户 * 30 天 = 375 万个代币
• 输出代币：150 万个
  • 每个请求 200 个令牌 * 5 个请求/天 * 50 个用户 * 30 天 = 150 万个令牌

预计每月成本（us-east-1 区域）如下：

• Anthropics Claude 3 Haiku 模型：
  • 亚马逊基岩：2.81 美元
    • 7500 万个输入代币，价格为 0.00025 美元/千个代币 = 0.9375 美元
    • 500 万个输出代币，价格为 0.00125 美元/千个代币 = 1.875 美元
  • 其他 AWS 服务：16.51 美元
  • 总计：19.32 美元
• Amazon Bedrock：2.81 美元
• Anthropics Claude 3 和 3.5 Sonnet 模型：
  • 亚马逊基岩：33.75 美元
    • 7500 万个输入代币，价格为 0.003 美元/千个代币 = 11.25 美元
    • 500 万个输出代币，价格为 0.015 美元/千个代币 = 22.50 美元
  • 其他 AWS 服务：16.51 美元
  • 总计：50.26 美元
• Amazon Bedrock：33.75 美元
• Anthropics Claude 3 Opus 模型：
  • 亚马逊基岩：168.75 美元
    • 7500 万个输入代币，价格为 0.015 美元/千个代币 = 56.25 美元
    • 500 万个输出代币，价格为 0.075 美元/千个代币 = 112.50 美元
  • 其他 AWS 服务：16.51 美元
  • 总计：185.26 美元
• Amazon Bedrock：168.75 美元

这些估算并未考虑符合条件的服务的 AWS 免费套餐，因此如果您仍在免费套餐限制内，您的实际成本可能会更低。此外，AWS 服务的定价可能会随着时间的推移而变化，因此实际成本可能与这些估算有所不同。

这种无服务器架构的优点在于，您可以根据需求扩展或缩减资源，确保您只需为您消耗的资源付费。如果您仍在 AWS 免费套餐限制内，某些组件（例如 Lambda、Amazon S3、CloudFront、DynamoDB 和 Amazon Cognito）可能不会产生额外费用。

有关成本估算的详细细目，包括假设和计算，请参阅成本估算器。

清理

完成后，删除不再需要的任何资源，以避免持续的成本。

要要删除堆栈，请使用命令

例如：

有关如何从 AWS 账户中删除资源的更多信息，请参阅 GitHub 存储库中的如何本地部署部分。

摘要

员工生产力 GenAI 助手示例是一个前沿的示例代码，它使用生成式 AI 自动执行重复的写作任务，从而释放资源以进行更有意义的工作。它使用 Amazon Bedrock 和生成式 AI 模型来创建可自定义的初始模板。您可以输入文本和图像，受益于 AI 模型的多模式功能。主要功能包括用户友好的游乐场、模板创建和应用、活动历史记录跟踪、与模板的交互式聊天以及对多模式输入的支持。该解决方案基于强大的 AWS 无服务器技术（例如 Lambda、API Gateway、DynamoDB 和 Amazon S3）构建，保持了可扩展性、安全性和高可用性。

访问我们的 GitHub 存储库并亲自尝试。

>

通过使用 Amazon Bedrock 和 AWS 上的生成技术，组织可以加快创新周期、释放新的商机并提供人工智能驱动的解决方案，同时保持高标准的安全性和运营效率。

关于作者

Samuel Baruffi 是一位经验丰富的技术专业人士，在信息技术行业拥有超过 17 年的经验。目前，他在 AWS 担任首席解决方案架构师，为全球金融服务组织提供宝贵的支持。他在基于云的解决方案方面的丰富专业知识得到了众多行业认证的验证。除了云架构之外，Samuel 还喜欢足球、网球和旅行。

Somnath Chatterjee 是 AWS 一位出色的高级技术客户经理，Somnath Chatterjee 致力于指导客户在 AWS 上制定和实施云解决方案。他与客户进行战略合作，帮助他们在云中运行成本优化且具有弹性的工作负载。除了主要职责之外，Somnath 还专注于计算技术领域社区。他是 SAP on AWS Specialty 认证的专业人员和 EFS SME。他在信息技术行业拥有超过 14 年的经验，擅长云架构并帮助客户在 AWS 上实现预期成果。

Mohammed Nawaz Shaikh 是 AWS 的技术客户经理，致力于指导客户制定并实施他们的 AWS 战略。除了主要职责之外，Nawaz 还担任 AWS GameDay 区域主管，并且是 AWS NextGen 开发人员体验技术领域社区的活跃成员。他在解决方案架构和设计方面拥有超过 16 年的专业知识，不仅是一位充满热情的编码员，也是一位创新者，拥有三项美国专利。

使用 Amazon Bedrock 的生成式 AI 提高员工生产力员工生产力 GenAI 助理示例是一款实用的 AI 驱动解决方案，旨在简化写作任务，使团队能够专注于创造力，而不是重复的内容创建。中间层 Amazon Bedrock 提供托管服务，允许您从行业领先的模型中进行选择，使用您自己的数据对其进行自定义，并使用安全性、访问控制和其他功能。输入 Product Naming Pro 作为名称，并根据描述和关键字创建朗朗上口的产品名称作为描述。这展示了 Amazon Bedrock 上的 Anthropics Claude 3 系列等多模态模型的强大功能，允许您在 Playground 或 Activity 页面上上传和使用最多六张图像作为输入，以生成上下文丰富的多模态响应。他在解决方案架构和设计方面拥有超过 16 年的专业知识，不仅是一位充满热情的编码员，也是一位创新者，拥有三项美国专利。