OneAdvanced 如何在英国主权 AWS 上部署超过 50 个 AI 代理
OneAdvanced,一家服务超过 10,000 家客户的英国企业软件提供商,近期成功构建了一个英国主权 AI 平台。该平台通过自托管 Llama 4 Maverick 和 Llama Guard 4 模型于 Amazon SageMaker AI,结合基于 pgvector 的 RAG 管道,以及由 Strands Agents SDK 构建的超过 50 个代理,运行在 Amazon ECS 上,确保了所有数据都留在英国境内。
数据主权与模型托管的挑战
OneAdvanced 服务于医疗、法律等高度监管行业,客户处理敏感数据,如患者记录和法律文件。严格的英国数据驻留要求使得使用托管服务变得困难,因为当时 Llama 4 Maverick 和 Llama Guard 4 尚未在英国区域提供。因此,他们选择完全掌控基础设施,自托管开源权重模型。
架构与关键决策
该解决方案的核心是使用 Amazon SageMaker AI 托管模型,确保模型运行在客户自己的 AWS 账户中。RAG 管道采用 Amazon Aurora PostgreSQL 与 pgvector 扩展,实现高效的向量检索。代理层由 Strands Agents SDK 构建,超过 50 个专用代理分别处理不同任务,并通过 Amazon ECS 上的工具层与外部系统交互。
结果与启示
OneAdvanced 的 CTO Andrew Henderson 强调,数据主权是客户的核心要求。通过自托管,他们不仅满足了合规需求,还实现了快速原型验证:最初使用 Amazon Bedrock 在两周内完成了聊天、法律查询等功能的原型,随后迁移到自托管方案。这一案例展示了在 AWS 上构建主权 AI 的可行路径,为其他受监管行业提供了参考。
要点总结:
- 自托管开源模型是满足数据主权需求的有效方式。
- 结合 RAG 与多代理架构,可构建灵活且安全的 AI 服务。
- AWS 基础设施提供了完全控制权,符合严格合规要求。
对于面临类似数据驻留挑战的企业,OneAdvanced 的实践提供了宝贵经验。