SheepNav
新上线今天0 投票

结合 SageMaker AI 与 Bedrock AgentCore 构建智能体工作流

在构建智能体工作流时,一个常见的挑战是如何在同一个系统中混合使用托管基础模型(FM)和自有的成本优化或领域特定模型,而无需重写整个智能体框架。本文介绍如何将 Amazon SageMaker AI 上的 OpenAI 兼容端点与 Amazon Bedrock AgentCore 运行时相结合,实现多智能体协作,其中每个专业智能体使用最适合其任务的模型。

架构概览

该架构通过一个 Amazon Bedrock AgentCore 容器连接三条模型托管路径:

  • 编排智能体(Bedrock 上的 Claude Haiku 4.5):负责分类用户意图,并通过全局跨区域推理路由任务。
  • 预算智能体(Bedrock 上的 Claude Sonnet 4.6):处理 50/30/20 预算分解,使用结构化 Pydantic 输出。
  • 财务分析智能体(SageMaker AI 上的 Qwen 3.5 9B):执行股票分析和投资组合构建,支持工具调用。

用户请求进入运行在 Bedrock AgentCore 运行时内的编排智能体。编排智能体采用 Strands Agents 的“智能体即工具”模式,将请求路由至预算智能体或财务分析智能体。两个专业智能体分别调用各自的模型:预算智能体通过 Amazon Bedrock 调用 Claude Sonnet 4.6,财务分析智能体通过 SageMaker AI 实时端点(使用 OpenAI 兼容 API)调用 Qwen 3.5 9B。结果流经编排智能体返回给用户。

集成细节

关键在于集成机制,尤其是如何从 SageMaker 端点获取令牌级可观测性,因为 Strands 默认不提供这一功能。通过结合 SageMaker AI 和 Bedrock AgentCore,您可以在一个生产就绪的架构中实现成本优化、数据驻留和模型灵活性。

前置条件

开始之前,您需要具备以下条件:

  • 一个 AWS 账户,并具有创建 SageMaker 端点和 Bedrock AgentCore 资源的权限。
  • 已部署 Qwen 3.5 9B 模型到 SageMaker AI,并获取 OpenAI 兼容端点的 URL。
  • 熟悉 Strands Agents 框架的基本概念。

完整源代码请参阅随附的 GitHub 仓库。

总结

通过这种组合,您可以在不牺牲性能的前提下,利用 SageMaker 上部署的专用模型(如 Qwen)与 Bedrock 上的托管模型(如 Claude)协同工作。该方案特别适合需要数据驻留或成本优化的场景,同时保持了智能体编排的灵活性。

延伸阅读

  1. ChatGPT 新功能 Computer History:记录你的 Mac 活动并生成时间线,但隐私风险你考虑过吗?
  2. 马克·扎克伯格真的相信AI“人人可用”吗?
  3. 法国初创公司Kog:在现有GPU上挖掘更多推理潜力
查看原文