🔔科技频道[奇诺分享-ccino.org]⚡️
4 小时前
IT之家
蚂蚁百灵开源 Ling-3.0-tiny 模型,支持英伟达 DGX Spark、苹果 Mac mini 部署
Telegraph
|
原文
Telegraph
蚂蚁百灵开源 Ling-3.0-tiny 模型,支持英伟达 DGX Spark、苹果 Mac mini 部署 - IT之家
IT之家 8 月 11 日消息,蚂蚁百灵今天在 Hugging Face 平台开源 Ling-3.0-tiny 模型,该模型为轻量级混合推理 MoE 架构,总参数 7.9B,每 Token 激活 1.3B 参数。官方提供 BF16、FP8 和 INT4 权重版本,适配不同平台的部署需求。 据介绍,Ling-3.0-tiny 主打低成本推理,采用高效混合线性架构,将 KDA(Kimi Delta Attention)和 MLA(Multi-Head Latent Attention,多头潜在注意力)按照 3:1…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia