其单机支持 120B 模型本地运行，在 109B 模型上拥有 15 Token/s 的推理输出吞吐量；多机 USB4 互连后可处理 670B 模型。