七月份的时分,我们推出了 Agents for Amazon Bedrock预览版。如今,Agents for Amazon Bedrock全面上市。
Agents for Amazon Bedrock 通过编列多步使命,有助于您加速生成人工智能 (AI) 应用程序的开发。署理运用根底模型 (FM) 的推理功用将用户恳求的使命分解为多个过程。他们运用开发人员供给的指令创立编列方案,然后通过调用公司 API 和运用检索增强生成 (RAG) 拜访常识库来执行该方案,从而为终端用户供给终究呼应。假如您想知道其中的作业原理,请检查我之前发布的关于署理的文章,其中包含高档推理入门和RAG 入门。
亚马逊云科技开发者社区为开发者们供给全球的开发技能资源。这儿有技能文档、开发案例、技能专栏、训练视频、活动与竞赛等。协助中国开发者对接世界最前沿技能,观念,和项目,并将中国优秀开发者或技能推荐给全球云社区。假如你还没有重视/保藏,看到这儿请必定不要仓促划过,点这儿让它成为你的技能宝库!
即日起, Agents for Amazon Bedrock 的功用已得到增强,包含改进了编列操控并增强了思维链推理的可视性。
Agents for Amazon Bedrock 在后台会主动化用户恳求使命的提示工程和编列,例如办理零售订单或处理保险索赔。署理会主动构建编列提示,假如连接到常识库,则会运用您公司特定信息扩大提示,并调用 API 以自然言语向用户供给呼应。
作为开发人员,您可以运用新的追寻功用来追寻执行方案时运用的推理过程。您可以检查编列过程中的中心过程,并运用这些信息来解决问题。
您还可以拜访和修改署理主动创立的提示,以便进一步增强终端用户体会。您可以更新此主动创立的提示(或提示模板),从而协助 FM 增强编列和呼应,使您可以更好地操控编列。
接下来,我将为您展示怎么检查推理过程以及怎么修改提示。
检查推理过程
追寻功用可以让您了解署理的推理,即思维链 (CoT) 。您可以运用 CoT 追寻检查署理怎么逐渐执行使命。 CoT 提示基于一种名为ReAct(协同推理和举动)的推理技能。请查阅我上一篇博客文章中关于高档推理的入门常识,了解更多关于 ReAct 和特定提示结构的信息。
首先请导航到Amazon Bedrock 操控台并挑选现有署理的作业草稿。然后,挑选“测验”按钮并输入示例用户恳求。在署理的呼应中,挑选“显现追寻”。
CoT 追寻逐渐显现署理的推理。翻开每个过程检查 CoT 的详细信息。
增强的可视性有助于您了解署理完成使命所运用的基本原理。作为开发人员,您可以运用这些信息来完善提示、说明和操作描绘,以便在迭代测验和改进用户体会时调整署理的操作和呼应。
修改署理创立的提示
署理根据供给的说明主动创立提示模板。您可以更新用户输入的预处理、编列方案和 FM 呼应的后处理。首先请导航到 Amazon Bedrock 操控台并挑选现有署理的作业草稿。然后,挑选“高档”提示周围的“编辑”按钮。
在这儿,您可以拜访四种不同类型的模板。预处理模板界说了署理怎么对用户输入进行情景化和分类。编列模板为署理供给了短期记忆、可用操作和常识库的列表及其描绘,以及怎么在不同序列或组合中分解问题并运用这些操作和常识的少量示例。常识库呼应生成模板界说了常识库在呼应中的运用和总结方法。后处理模板界说了署理怎么对终究呼应进行格式化和呈现给终端用户。您可以挑选保存模板默认设置,也可以编辑和掩盖模板默认设置。
需求了解的事项
运用 Agents for Amazon Bedrock 的一些最佳实践和需求了解的重要事项如下。
当您让署理集中处理一个特定使命时,它们可以发挥最佳功能。目标(指令)越明确,可用的操作集 (API) 越专注, FM 就越容易推理和确定正确过程。假如您需求署理来处理各种使命,请考虑创立独自的独立署理。
以下是一些额定的指南:
-
API 数量–在署理中运用三到五个带有几个输入参数的 API 。
-
API 规划——遵从规划 API 的一般最佳实践,例如保证等幂性。
-
API 调用验证–遵从 API 规划的最佳实践,对所有 API 调用进行详尽的验证。这一点特别重要,由于大型言语模型 (LLM) 可能会发生错觉输入和输出,事实证明,这些验证关于处理这种状况十分有协助。
可用性和定价
Agents for Amazon Bedrock 今天在美国东部(北弗吉尼亚州)和美国西部(俄勒冈州)的亚马逊云科技区域上市。将根据署理进行的推理调用 (InvokeModelAPI
)向您收费。InvokeAgent API
不独自收费。详情请查阅Amazon Bedrock 定价。