🔔科技频道[奇诺分享-ccino.org]⚡️
3 小时前
雷锋网
阿里云真武超节点Day0适配Kimi K3大模型,双方展开国产算力合作
Telegraph
|
原文
Telegraph
阿里云真武超节点Day0适配Kimi K3大模型,双方展开国产算力合作 - 雷锋网
7月28日,阿里云真武M890超节点实例已Day0适配Kimi K3,这是国内首个跑通近3万亿参数模型的超节点。双方将进一步展开国产算力合作,千问AI平台和阿里云百炼也将提供Kimi K3 的模型API。 Kimi K3是目前业界参数规模最大的模型之一,跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的GPU卡,让万亿参数“跑得又稳又快”。然而,普通AI集群因通信带宽的局限,无法满足高吞吐、低延迟、高并发的需求。 阿里云真武超节点实例通过ICN Switch高速互联芯片,让64张平…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia