SheepNav
新上线今天0 投票

NVIDIA Nemotron 3.5 Lightning 登陆 Amazon SageMaker JumpStart,加速高并发 Agent 工作负载

NVIDIA Nemotron 3.5 Lightning 现已上线 Amazon SageMaker JumpStart,这是一款专为高并发 Agent 工作负载设计的开源模型。该模型采用混合专家(MoE)架构,总参数量 30B,但仅有 3B 激活,可在单 GPU 上运行,吞吐量最高提升 4 倍,任务完成速度最高提升 30%。本文介绍如何通过 SageMaker JumpStart 快速部署该模型,并解析其技术亮点与适用场景。

延伸阅读

  1. 企业AI代理采用量今年增长三倍,可衡量ROI初现
  2. 隐藏AirTag揭露亚马逊销毁珍稀书籍以训练AI
  3. AI增强的Linux 7.2带来缓存感知调度——所有新特性一览
查看原文