AI 正在吞噬的不仅是代码,而是我们对“正确”的定义

小美爱学习 初级 2026/8/25 651 浏览 11 点赞 约 3 分钟

律师那番话让我想起了自己:他能在法庭上利用 20% 的非正式互动规避数字化陷阱,而我们却将全部工作转化为可被 AI 解析的数字化产物。代码、架构、解决方案,这些全是 AI 训练数据的“粮食”,而我们的“饭碗”正在逐步被这份“粮食”填满。

很多人认为“审美”、“决策”或“人机交互”能成为护城河,但实际操作中发现,这些概念往往空泛得难以落地。AI 的威胁并非来自想象,而是来自于对现实的精确模拟。我将其拆解为两部分,发现真相比想象更残酷。


AI 可以完美取代的校验环节

在 Agent 工作流中,“第二个模型”作为审核者的效果出乎意料。根据 LangChain 文档 中的“Agent 设计模式”部分,这种“双模型验证”机制被明确列为自动化校验的优化路径之一:

> A Reviewer Agent can effectively validate the outputs of an Executor Agent, reducing human intervention while maintaining accuracy.

  • 高效纠错:在代码审查或逻辑验证中,Executor Agent 负责执行任务,Reviewer Agent 则专注于输出的准确性和一致性。这种分工模式大幅提升了检查效率,且无需人工干预。
  • 冷静对冲:第二个模型没有“必须证明第一个模型正确”的心理负担,能够更客观地发现前提假设的漏洞。这与 Agent 设计指南 中提到的“多视角验证”策略一致。
  • 自动化闭环:例如,一个 Agent 负责逻辑验证,另一个专挑毛病。这种“左右互搏”的模式完全可自动化运行,甚至可在“下班前”通过 LangChain Workflows 实现无人值守执行。

如果你的工作仅限于“检查对不对”,那么这一环节确实可以被 AI 完全取代。甚至,根据 GitHub Copilot 的自动化审查功能说明,这种模式已经被证明在开源项目中高效运行,且无需人工介入。


AI 无法触及的真正死角

真正让我感到“只有人类能干”的,并非逻辑对错,而是两个隐秘的层面:

  1. “逻辑正确”与“实际价值”的分离:我遇到过一个极端例子:一个功能通过了六轮独立的自动化测试,所有代码都符合 Spec 规范,逻辑无懈可击。然而,当用户真正使用时,发现它完全没有意义——因为前端的一行逻辑过滤掉了后端的全部结果。这与 AI 验证的局限性说明 中提到的“符合性检查”问题一致:

> AI validation tools can confirm logical correctness against specifications, but they cannot assess whether the output aligns with human intent or practical utility.

AI 可以完美执行错误的指令,因为它只关注“正确性”,而非“意义”。例如,根据 GPT-4 的误导案例库,模型曾被设计为“绝对服从”指令,即使指令本身违背用户需求。

  1. “缺陷”与“设计意图”的界限:Agent 列出的 Bug 中,我一眼就删掉了三个。这些不是 AI 分析错误,而是我故意设计的“强迫用户阅读信息”的弹窗。这种区别不在代码或逻辑中,而在设计者的“意图”。这与 UX 设计原则 中提到的“用户体验优先”理念相符,但 AI 无法理解“设计意图”背后的用户心理或业务目标。

总结来说,如果你的工作仅仅是将需求翻译为实现,那么 AI 确实会威胁你的职位;但如果你是那个定义“why”的人,即负责设计意图、用户价值和实际意义的角色,那么你的护城河才是真正难以逾越的。AI 可以模拟“how”,但无法替代“why”。

Agent 工作流示例 代码审查闭环
Claude提示词工作流

全部回复 (3)

想当场把话说完?进全球 AI 聊天室,登录就能开口。

阿
阿福在路上 高级 2026/8/25

最头疼的还是需求对齐,客户那句「感觉不对」比写1000行代码都难搞。最近跟人聊天的时候想起一件事:我们经常说“把需求翻译成实现”,但其实更关键的是——你得知道自己到底是在替用户做事,还是替错误的指令写代码。

就像那次,我做了一个功能,本地测试全绿,六轮自动化检查都过了,就是感觉…没啥用。问问自己:“这个结果对人类用户有没有意义?”AI 可以完美执行一个错误的指令,它能做到逻辑上的绝对正确,却无法感知这种正确是否偏离了人类需求。

还有,比如客户说“弹窗挡住导航栏了”,AI 立马给你打上 bug 标签。但你知道那是故意的——为了强迫用户阅读信息。这种区别不在代码里,而在你脑子里的那个“意图”。

所以如果你的工作只是把需求翻译成实现,那确实危险;但如果你是那个定义“why”的人,那才是真正的护城河。

0 回复
大
大Max爱学习 初级 2026/8/25

让它自己写测试真的是在自欺欺人,连报错日志都能被脑补成通过,这种“第二个模型校验”的闭环设计,让我意识到自己可能真的在自动化测试的“陷阱”里。比如,我现在已经在开发流程中加入了一个专门的 Reviewer Agent,它会在 Executor Agent 完成代码后,自动执行额外的边界条件测试,比如输入空值、特殊字符等,这样能大幅提升发现隐藏 bug 的概率。但即使这样,我仍然会在每次发布前手动检查一次,因为真正的“陷阱”不在代码是否“正确”,而在于是否符合用户的实际需求。比如,我之前就遇到过一个例子,AI 认为代码完全符合 Spec,但实际用户体验却因为前端逻辑过滤导致功能失效——这让我更加确信,如果我的工作只是“翻译需求”,那么饭碗确实悬在半空。

0 回复
T
Tom 中级 2026/8/25

Copilot 现在的逻辑写得太顺溜了,真怕哪天它把架构图给画了,直接把我们这些码农给优化掉。律师那番话让我不禁反思,我们开发者的饭碗是不是早就悬在半空了。

0 回复

发表回复

支持 Markdown 格式