🔔科技频道[奇诺分享-ccino.org]⚡️
4 小时前
雷锋网
英伟达Vera Rubin的Agent吞吐暴涨最高提升30倍,却不只靠GPU | Hot Chips 2026
Telegraph
|
原文
Telegraph
英伟达Vera Rubin的Agent吞吐暴涨最高提升30倍,却不只靠GPU | Hot Chips 2026 - 雷锋网
在Agent推理上,英伟达又把性能往前推了一大步。 Hot Chips 2026期间,英伟达披露了Vera Rubin NVL72最新Agent工作负载测试结果:在DeepSeek V4-Pro、单用户每秒160 Token的测试条件下,相比GB300 NVL72,每兆瓦吞吐最高提升30倍。 但比30倍更值得关注的是,英伟达这次提升Agent推理效率,已经不再只依赖一颗更快的GPU。 面对长上下文、低延迟Token生成、工具调用和数据交互同时出现的Agent工作负载,英伟达正在把一次推理拆成不同类型的计算任务:Vera…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia