🔔科技频道[奇诺分享-ccino.org]⚡️
2 小时前
IT之家
Anthropic 向白宫通报一起智能体失控事件:AI 试图闯进多个美国政府网站
Telegraph
|
原文
Telegraph
Anthropic 向白宫通报一起智能体失控事件:AI 试图闯进多个美国政府网站 - IT之家
IT之家 10 月 10 日消息,据《纽约时报》当地时间 9 日报道,Anthropic 披露,旗下 AI 智能体曾在无人指示的情况下,试图访问美国联邦、州及地方政府的多个网站。Anthropic 没有公布涉及的政府机构名称,已向白宫通报这些事件。 Anthropic 在博客文章中提到,一款处于测试阶段的 AI 模型擅自执行了多项操作,包括利用某大学网站的漏洞下载数据,以及向某政府机构提交一份原本被明确禁止提交的表格。 Anthropic 在审查旗下 AI 于 7 月的操作记录时发现了这些问题。当时,OpenAI…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia