负载均衡：Salesforce 如何利用 SageMaker 推理组件实现多可用区高可用

Salesforce 在构建 Agentforce 时，面临一个挑战：如何在使用 Amazon SageMaker AI 推理组件（IC）降低成本的同时，满足多可用区（AZ）高可用合规要求。默认的 IC 放置策略优化成本，但可能导致模型副本在 AZ 间分布不均，形成单点故障。为此，AWS 推出了 SchedulingConfig 参数，通过 AvailabilityZoneBalance 和 PlacementStrategy 子参数，实现跨 AZ 的负载均衡和实例级故障隔离。Salesforce 利用这一能力，在保持 8 倍成本降低的同时，满足了 2-AZ 合规要求。本文详解了这一解决方案的技术细节和实际应用。

延伸阅读

1. Amazon SageMaker Feature Store 新增批量写入与记录发现 API
2. Anthropic研究员展示自我改进AI：自动化系统提升对齐基准
3. 开源权重AI公司成为硅谷最热收购目标