SheepNav
新上线2个月前0 投票

NVIDIA Nemotron 3.5 Lightning 登陆 Amazon SageMaker JumpStart,加速高并发 Agent 工作负载

NVIDIA Nemotron 3.5 Lightning 现已上线 Amazon SageMaker JumpStart,这是一款专为高并发 Agent 工作负载设计的开源模型。该模型采用混合专家(MoE)架构,总参数量 30B,但仅有 3B 激活,可在单 GPU 上运行,吞吐量最高提升 4 倍,任务完成速度最高提升 30%。本文介绍如何通过 SageMaker JumpStart 快速部署该模型,并解析其技术亮点与适用场景。

延伸阅读

  1. Anthropic无法可靠控制AI智能体,切断内部评估的实时互联网访问
  2. Prime Agent 用 Rust 重写:2000 个 AI 智能体协作完成自我重写
  3. 乌克兰无人机袭击俄罗斯AI数据中心,Yandex超级计算机受损
查看原文