SheepNav
新上线今天0 投票

nOps借助Amazon Bedrock AgentCore将FinOps代理交付速度提升75%

nOps 是一家专注于云成本优化的初创公司,其核心产品 Clara 是一款基于AI的FinOps代理,旨在帮助企业自动发现并削减云浪费。近期,nOps宣布将Clara的底层架构从自管理的 Amazon EKS 集群(运行LangChain和LangGraph)迁移至 Amazon Bedrock AgentCore,这一转变将新功能的交付时间从 10-12个月 缩短至 4个月,效率提升 75%,同时显著改善了响应质量并降低了运维负担。

从自建到托管:为何迁移?

此前,Clara依赖一套复杂的自管理基础设施,包括EKS集群、LangChain和LangGraph框架,以及多个微服务。这种架构虽然灵活,但带来了沉重的运维负担:团队需要手动处理扩展、监控和故障恢复,且每次模型更新或功能迭代都需要跨团队协调,导致交付周期漫长。

Amazon Bedrock AgentCore 提供了一种托管的代理编排能力,允许开发者快速构建、部署和扩展AI代理,而无需管理底层基础设施。它原生支持多种基础模型(包括Claude、Llama等),并内置了任务分解、工具调用和记忆管理等关键功能,使nOps能够将精力集中在业务逻辑上,而非基础设施细节。

显著成效:速度、质量与成本

迁移后,nOps收获了三大核心收益:

  • 交付速度提升75%:从需求到上线仅需4个月,相比之前的10-12个月大幅缩短。这使得团队能够更频繁地推出新功能,快速响应客户需求。
  • 响应质量改善:AgentCore的托管编排机制减少了上下文丢失和工具调用错误,Clara在处理复杂查询时的准确性和连贯性均有提升。
  • 运维成本降低:无需再管理EKS集群和自建框架,运维团队得以释放,将更多时间投入到产品创新上。

此外,nOps依然通过 Databricks Lakehouse Metric Views 来治理分析数据,确保所有成本数据的安全性和合规性,这一架构使得数据治理与AI代理的集成更加顺畅。

行业启示:托管代理平台的兴起

nOps的案例反映了AI应用开发的一个趋势:从自建编排转向托管平台。随着生成式AI进入生产阶段,企业越来越倾向于使用像AgentCore这样的托管服务,以降低技术复杂性并加速上市。对于中小团队而言,这尤其重要——他们无需具备深厚的ML运维经验,也能构建出企业级的AI代理。

不过,这也引发了关于供应商锁定定制化限制的讨论。自建方案虽然灵活,但代价高昂;托管方案虽便捷,却可能导致对特定云厂商的依赖。nOps的选择表明,在速度优先的FinOps领域,托管平台的收益大于风险。

结语

nOps的转型证明了Amazon Bedrock AgentCore在加速AI代理开发方面的潜力。随着更多企业效仿,我们可能会看到云厂商在托管AI服务上的竞争进一步加剧,而受益的将是最终用户——他们能以更低的成本获得更智能的FinOps工具。

延伸阅读

  1. 口袋神器助编辑减少屏幕时间,限时折扣中
  2. 恢复就绪:网络韧性的新标准
  3. 机器人拆解师:从报废机器中抢救可用零件
查看原文