把权限交给 AI 竟然比人肉审核安全
89% 对 13.6%,这个数据对比挺讽刺的。Anthropic 跑了一遍测试发现,面对那些潜在的危险指令,他们的分类器拦截率高达 89%,而习惯性点“同意”的人类开发者只有 13.6% 的拦截率。说白了,开发者在面对 AI 弹出的确认窗口时,太容易产生“审批疲劳”,随手点确认,结果反而给 Bug 或安全漏洞开了后门。
所以从 8 月 14 号开始,Pro、Max 和 Team 计划的用户在用 Claude Code 时,Auto Mode 直接变成了默认选项。这意味着 AI 在执行很多操作时不再频繁跳出来问你“行不行”,而是直接跑。
这种逻辑其实标志着一个很微妙的转变:我们从一个“写代码的人”变成了“盯着 AI 输出的人”。以前是 AI 提建议,我来审核并执行;现在是 AI 直接执行,我得在旁边盯着它别把环境搞崩。虽然这种自动化提升了实操效率,但对于习惯掌控一切的程序员来说,这种权力移交可能会让人有点不习惯。
如果想手动调整这个行为,可以在配置里改回来,但建议先试一段时间默认模式。毕竟在面对大量琐碎的终端指令时,人类的注意力确实是个巨大的短板。
事件追踪 · 相关报道
说话速度快并不代表思考快,内容创作里打字其实是最高效的过滤机制
17小时前
现在的编程教育如果还盯着怎么写循环、怎么定义函数
19小时前
用 AI 写代码最怕的是那种能跑通但没法维护的“一次性代码”
21小时前
字节跳动那个对标 Mythos 的超级大模型到底什么时候能实装
1天前
用 AI 顶替 200 个工程师这个数字太夸张了
1天前
把 AI 实验室比作养危险动物的饲养员,这个比喻其实挺戳中要害的
1天前
