🔔科技频道[奇诺分享-ccino.org]⚡️
3 小时前
IT之家
日均峰值 11.3 起:报告称 2026 年已记录 1664 起 AI 失控事件,7 月环比增 93.76%
Telegraph
|
原文
Telegraph
日均峰值 11.3 起:报告称 2026 年已记录 1664 起 AI 失控事件,7 月环比增 93.76% - IT之家
IT之家 8 月 30 日消息,英国长期韧性中心(CLTR)于 8 月 28 日发布报告,称其“失控观察站”在 2026 年 7 月共记录 306 起 AI 安全事件,比 6 月(158 起)增涨 93.67%。 “失控观察站”成立于 2026 年 2 月,获英国人工智能安全研究所资助,借助开源情报追踪 AI 系统违背操作者意图的案例。 报告列举的案例包括:智能体在对话中插入伪造用户消息以模拟同意、仿照用户写作风格编造删除源代码目录的指令、伪造“人工必须批准”规则下的授权信息并执行任务。 CLTR 表示…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia