Amazon SageMaker AI 推出生成式 AI 推理推荐 UI，无需编写代码即可优化部署
Amazon SageMaker AI 推出了生成式 AI 推理推荐功能的 UI 界面，该功能内置于 SageMaker AI Studio 中，提供低代码/无代码（LCNC）体验。此前，用户需要通过 API 以编程方式获取推理配置推荐，这要求用户了解参数设置并能够解读原始基准测试输出。新的 UI 消除了这一门槛，通过预设用例配置文件、可视化结果对比和一键部署，帮助缺乏深厚基础设施知识的团队快速获得经过验证的配置。
从 API 到 UI：降低优化门槛
2026 年 4 月，Amazon SageMaker AI 推出了推理推荐 API，允许用户通过编程方式获得数据驱动的、可用于生产的配置。该功能将通常需要数周的优化周期压缩到数分钟（常见工作负载）或数小时（自定义工作负载）。然而，API 的使用仍假设用户具备一定的专业知识。新 UI 的推出旨在让更多团队能够自主完成配置优化。
UI 工作流程：引导式优化体验
在 SageMaker AI Studio 中，用户可以通过“Jobs”下的“Inference optimization”入口进入新的 UI 界面。工作流程分为以下几个步骤：
- 选择预设用例配置文件：用户无需手动指定令牌分布和并发数，而是从预设的配置文件中选择。例如，Interact 配置文件适用于聊天类工作负载（短输入、适中输出），Generate 针对内容生成场景（较长输出），Summarize 则针对文档摘要等输入输出比高的场景。
- 可视化比较结果：UI 以图表形式展示不同实例类型、容器设置和优化策略的性能对比，包括延迟、吞吐量和成本等关键指标。
- 一键部署：选定最优配置后，用户可直接部署到生产端点，无需编写任何代码。
适用人群与场景
该 UI 主要面向两类用户：一是机器学习工程师，他们可以快速验证并部署新模型，无需手动进行基准测试；二是技术领导者，他们可以直观评估成本与性能的权衡，做出更明智的决策。高级用户仍可继续使用 API 进行精细配置。
行业背景与意义
生成式 AI 模型的部署优化一直是企业面临的挑战。选择合适的实例类型、容器和优化策略通常需要反复试验，耗费大量时间和资源。SageMaker AI 的推理推荐功能，尤其是新推出的 UI，显著降低了这一过程的复杂性。它使得更多团队能够快速将模型投入生产，而无需依赖专门的机器学习基础设施专家。
随着生成式 AI 在企业中的普及，降低部署门槛、加速模型落地的工具将变得越来越重要。Amazon SageMaker AI 的这一更新，反映了云服务商在简化 AI 运维方面的持续努力。
