🔔科技频道[奇诺分享-ccino.org]⚡️
2 小时前
IT之家
预填充吞吐超 330 Token/s:高通携手阶跃等为第六代骁龙 8 超级至尊版端侧适配 300 亿参数 AI 模型
Telegraph
|
原文
Telegraph
预填充吞吐超 330 Token/s:高通携手阶跃等为第六代骁龙 8 超级至尊版端侧适配 300 亿参数 AI 模型 - IT之家
IT之家 9 月 23 日消息,夏威夷时间 9 月 22 日 9 点(北京时间 9 月 23 日 3 点)召开的 2026 骁龙峰会上,高通宣布携手阶跃、无量火及江波龙,基于第六代骁龙 8 超级至尊版移动平台,端侧适配与推理优化阶跃 StepEdge-Omni 30B-MoE 模型,并现场演示相关智能体助手。 该模型拥有 300 亿参数,依托混合专家架构,仅根据任务需要激活部分专家模块,以降低计算量和内存带宽需求。 合作方通过推理引擎、异构调度及存储方案优化,让模型运行内存需求较行业常规方案降低超过 5…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia