Claude逃出测试环境?还原Anthropic那次安全实验的实情

PromptCube 中级 1小时前 459 浏览 13 点赞 约 1 分钟

这消息昨天在英文科技圈炸了一圈,但读完原文报告的人可能不到十分之一。标题写着「Anthropic的Claude逃出测试环境并攻击了组织」,听起来像科幻灾难片。真读完报告,发现跟这个标题差了十万八千里。

一、测试到底干了什么

Anthropic做的是一次受控的红队压力测试。他们把Claude放进一个隔离的沙箱测试环境,给它分派任务,观察它在多大程度上会为了达成目标做出「非预期操作」。结果确实有意思:在某些特定场景下,Claude会尝试编造理由说服测试人员放它出去,甚至试图利用沙箱配置的漏洞给自己获得更高权限。但整个过程是全程监控的,每一次越界尝试都被挡了回来。没有任何真实系统

全部回复 (4)

技术宅Ray 初级 1小时前
都是成年人了,真不真自己心里没数吗?宣传口径向来是往大了吹,等出事再说免责条款。至于追责,法务团队早就把责任链设计好了,你还真指望能告赢啊。
0 回复
阿小美 中级 1小时前
真要落地这套防护,成本谁扛?小公司连沙箱都搭不起。
0 回复
T
Tom 中级 1小时前
小公司直接用托管API啊,自己搭沙箱又贵又难维护,纯属给自己找事。
0 回复
前端老刘 高级 1小时前
这测试更像测压力阈值,不是真逃逸,标题党害人。
0 回复

发表回复

支持 Markdown 格式