在 Amazon SageMaker AI 上使用无服务器模型定制微调 NVIDIA Nemotron 3 模型
模型定制将通用 AI 模型转化为专业化企业资产。通过微调基础模型，企业可以教会 AI 理解自身独特的工作流、术语和领域知识，同时严格遵循品牌风格并减少幻觉。对于企业而言，这不仅是优化，更是创造专有知识产权——微调模型将组织的独特智慧和最佳实践编码到其架构中，构建难以被现成公开前沿模型复制的竞争优势。同时，在目标任务上微调较小的开源模型，往往能匹配甚至超越更大规模专有模型的性能，同时显著降低成本，并将敏感数据保留在安全、私有的基础设施内。
Amazon SageMaker AI 提供丰富的开源模型选择和微调技术。如今，SageMaker AI 推出了针对 NVIDIA Nemotron 3 模型的无服务器模型定制功能，首发支持 Nemotron 3 Nano（300亿总参数，30亿活跃参数） 和 Nemotron 3 Super（1200亿总参数，120亿活跃参数）。通过监督微调、基于可验证奖励的强化学习和基于 AI 反馈的强化学习，用户无需预置或管理任何基础设施，即可将这些高性能开源模型适配到特定领域和工作流中。
NVIDIA Nemotron 3 模型架构亮点
NVIDIA Nemotron 3 系列基于 混合 Mamba-Transformer 混合专家架构，原生支持高达 100万 token 的上下文长度。该架构交错使用三种互补的层类型：Mamba-2 层用于高效的线性时间序列处理，Transformer 注意力层用于精确的关联召回，以及混合专家层用于扩展模型容量。这种设计在长序列处理效率和复杂推理能力之间取得了平衡。
无服务器微调技术
SageMaker AI 为 Nemotron 3 提供了三种微调方法：
- 监督微调：使用标注数据直接调整模型参数，适用于分类、摘要等任务。
- 基于可验证奖励的强化学习：通过可自动验证的奖励信号优化模型行为，适用于数学推理、代码生成等有明确正确答案的场景。
- 基于 AI 反馈的强化学习：利用 AI 评判模型输出质量，适用于需要主观判断的任务，如创意写作、对话生成。
如何在 SageMaker Studio 中开始
用户可以直接在 SageMaker Studio 中通过可视化界面或 API 启动无服务器微调作业。步骤如下：
- 选择 Nemotron 3 模型（Nano 或 Super）。
- 上传领域数据集（支持常见格式如 JSON Lines）。
- 选择微调方法（SFT、RLVR 或 RLAIF）并配置超参数。
- 启动作业，SageMaker AI 自动管理计算资源。
- 微调完成后，模型可直接部署为无服务器端点。
这种无服务器模式显著降低了入门门槛，使更多企业能够以较低成本实现模型定制，同时保持数据安全。
行业意义
Nemotron 3 的混合架构和无服务器微调能力，为企业在长上下文处理（如法律文档分析、代码库理解）和成本效率之间提供了新选择。结合 SageMaker AI 的托管服务，企业可以快速迭代领域模型，而无需深究底层基础设施。
