把权限交给 AI 竟然比人肉审核安全

PromptCube 中级 1天前 427 浏览 3 点赞 约 1 分钟

89% 对 13.6%,这个数据对比挺讽刺的。Anthropic 跑了一遍测试发现,面对那些潜在的危险指令,他们的分类器拦截率高达 89%,而习惯性点“同意”的人类开发者只有 13.6% 的拦截率。说白了,开发者在面对 AI 弹出的确认窗口时,太容易产生“审批疲劳”,随手点确认,结果反而给 Bug 或安全漏洞开了后门。

把权限交给 AI 竟然比人肉审核安全

所以从 8 月 14 号开始,Pro、Max 和 Team 计划的用户在用 Claude Code 时,Auto Mode 直接变成了默认选项。这意味着 AI 在执行很多操作时不再频繁跳出来问你“行不行”,而是直接跑。

这种逻辑其实标志着一个很微妙的转变:我们从一个“写代码的人”变成了“盯着 AI 输出的人”。以前是 AI 提建议,我来审核并执行;现在是 AI 直接执行,我得在旁边盯着它别把环境搞崩。虽然这种自动化提升了实操效率,但对于习惯掌控一切的程序员来说,这种权力移交可能会让人有点不习惯。

如果想手动调整这个行为,可以在配置里改回来,但建议先试一段时间默认模式。毕竟在面对大量琐碎的终端指令时,人类的注意力确实是个巨大的短板。

anthropicClaude Code

全部回复 (4)

前端大山 专家 1天前
而且人审核还容易被情绪影响,AI 至少标准统一。
0 回复
副业中创业者 初级 1天前
而且AI还没脾气,不用担心被审核员心情不好给毙了,你觉得呢?
0 回复
小柯爱学习 专家 1天前
确实,我之前审代码就经常走神,好多漏洞真就这么点过去了。
0 回复
独立开发者Leo 专家 1天前
那要是AI产生幻觉把正常的给拦了,怎么快速回滚?
0 回复

发表回复

支持 Markdown 格式