🔔科技频道[奇诺分享-ccino.org]⚡️
3 小时前
爱范儿
OpenAI 紧急暂停新模型训练,AI 开始进入「越聪明越危险」阶段
Telegraph
|
原文
Telegraph
OpenAI 紧急暂停新模型训练,AI 开始进入「越聪明越危险」阶段 - 爱范儿
今天凌晨,OpenAI 突然宣布,在 Hugging Face 入侵事件后已经暂停了最新模型的强化学习(RL)训练两周;同时,原计划进行的迄今最大规模前沿强化学习训练也处于暂停状态—— 他们计划用这段额外的时间评估模型行为、获取有关模型安全对齐状况的信息并调整安全措施。 当然,这也意味着预热已久的下一代大模型 Astra 大概率又要跳票了。 在大模型「卷生卷死」的时代,为什么 OpenAI 要主动踩刹车?归根结底,还是安全问题。 濒临「失控」的前沿模型 正如公告开头所说,这次「刹车」,其实早已有迹可循——…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia