🔔科技频道[奇诺分享-ccino.org]⚡️
4 小时前
IT之家
微软称保守假设下,典型 AI 查询耗水量少于 1 滴水
Telegraph
|
原文
Telegraph
微软称保守假设下,典型 AI 查询耗水量少于 1 滴水 - IT之家
IT之家 6 月 16 日消息,微软昨日(6 月 15 日)发布博文,援引《Joule》研究指出,AI 在大规模部署下的能耗与用水量显著低于外界早前估计。 该研究认为在大规模推理场景下,外界对 AI 大语言模型的关注点,不应该只放在单个模型的训练 / 推理规模,更应该注重用户典型调用下的“每次查询”。 该研究指出一次常规典型 AI 调用,耗电 0.16 至 0.60 瓦时(watt-hours),约等于一台 40 瓦电脑运行 15 至 60 秒,或 1000 瓦微波炉工作 0.6 至 2 秒。相比此前文献和媒体报道,新研究的数据低至…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia