智能体从演示走到生产,先补最弱的那一层
做 AI 应用交付,演示能跑不等于能上线。先做十道自评,找出最弱的一层,按 0 到 6 的顺序补;跳级通常会在评估或置信度那步失效。
The Heap 上这份分层指南把话说得很直:模型是概率性的,生产环境要的是保证。保证不是把模型改成确定性系统,而是把它的工作缩到“必须靠判断力解决的那个最小决策”,再用能测试、能拦截、能审计、能观测的确定性机制包住。模型只是普通工程系统里的一个受控组件。
七层里,你的团队卡在哪一层
这份材料把落地分成 0 到 6 层,每层都假定下面一层已经成立,后面还挂了 21 篇逐层深挖:
- 0 笔记本:一个提示词、一个模型、一条顺利路径的演示。缺口信号是“它在我给的例子上能跑”。
- 1 确定性:代理只提议,不直接改业务状态;每项能力是固定步骤图;模型被限制在一个节点;循环有边界。缺口信号是代理能写业务状态,行为取决于它自己绕到哪。
- 2 评估:评估进 CI 门禁,有基线看漂移,生产流量做影子评估。缺口信号是改完提示词只能祈祷,评估还躺在 notebook 里。
- 3 置信度:置信度是组合出来并校准过的,设自动与人工的阈值,抽样做评审。缺口信号是直接拿模型原始置信度做动作,没有弃权路径。
- 4 安全与治理:输入、输出、PII、校验、评审多层护栏,默认拒绝;敏感数据在边界脱敏或哈希;审计账本只追加;记忆按租户隔离。缺口信号是只有一个内容过滤,原始输入全进日志,审计还能改。
- 5 可运维:能看到决策、护栏拦截、token 成本和人工接管率;有模型路由和降级;有秒级停止开关。缺口信号是质量或成本出事,你先从账单和客户投诉里知道。
- 6 生产级构建:连构建过程本身都有纪律,给编码代理一套操作系统,多个代理围绕决策日志并行。缺口信号是关键决策靠口口相传,每隔几周重新吵一遍。
这七层最容易被误读成成熟度徽章。它不是。顺序不是建议,是依赖关系:没有确定性,评估失败时你分不清是模型判断错了还是代理绕路绕错了;没有基线,评估门禁会退化成“跑通就算过”;没有弃权路径,置信度校准只会让错误决策更自信;护栏如果不是 fail closed,那它只在演示里好看;停止开关要发版才能生效,那就不叫停止开关。
十道自评,别做成自我感动
指南给了十条勾选项,号称 90 秒能做完;少于一半打勾,说明你比演示呈现出来的更早期:
- 代理只能提议,变更由独立组件在批准后应用。
- 每项能力是固定步骤,模型只是其中一步。
- 提示词或模型变更导致质量回退时,CI 会失败。
- 每次发布都和基线比,不只看一条及格线。
- 决策带组合、校准过的置信度,低置信度转人工。
- 护栏分层且 fail closed。
- 敏感数据在边界脱敏或哈希,审计账本只追加。
- 面板能看到决策、拦截、token 成本和人工接管率。
- 不发布也能在几秒内停掉自动决策。
- 关键决策写在人和代理都能读的日志里。
这份清单最大的坑是自评。自评最容易变成团队互相安慰:十条都能勾,证据可能一条都拿不出来。判断一个团队是不是真的到了某一层,别听“我们有”,要看东西:CI 里最后一次被拦下的质量回退是什么,评估基线长什么样,低置信度进了哪个人工队列,停止开关最近一次演练是什么时候。拿不出记录,那一层就是名义上的。尤其是“我们有评估”这句话,如果评估从来没让一次发布失败过,它更像 notebook 里的装饰。
面 ai agent开发 岗位时,这套模型比背八股有用
已经拿到面试、想判断团队成熟度时,可以直接问,不用绕:
- 这项能力里,模型在哪一个节点?谁负责应用变更?答案含糊,确定性这层就存疑。
- 最近一次提示词变更被 CI 拦下是什么时候?拿不出例子,评估大概率还停在本地。
- 低置信度会走到谁那里?没有人工队列,置信度只是口号。
- 护栏拦不住时是放行还是拒绝?fail open 的护栏比没有护栏更危险。
- 线上出问题,几秒能停?要发版才能停,可运维这层还没到。
- 关键决策有日志吗?只散落在聊天记录里,等于没有。
这些问题不是刁难面试官,是判断你进去以后做产品还是做演示。招聘方也能反过来用:与其问候选人会不会某个框架,不如让他讲一次质量回退怎么被 CI 拦住、一次低置信度怎么转人工。能讲清楚流程的人,比能背模型参数的人更接近生产。
现在就要动手,先做哪三步
- 选一条最靠近钱或客户状态的链路,把步骤画出来,标出模型节点。代理只提议,应用变更由独立组件在审批后执行。先做一条,不要全量重构。
- 把一条真实的提示词或模型变更做成回归用例,进 CI,和基线比。没有基线就先记录当前通过的样例和输出,别急着设阈值。
- 给低置信度加人工路由,再检查护栏是否 fail closed、审计是否只追加。最后才是面板和停止开关;顺序反了,你会先得到一堆好看的数字,却不知道数字意味着什么。
六周作品集能补到哪一层
TechEmpower 的招生页把“六周做出一个作品集级 LLM 应用”当卖点,下一期写的是 2026 年 6 月 1 日开班,报名表还会问 Python 和 Git 经验。这能解决“没有项目可讲”的问题,但解决不了“系统能不能被依赖”的问题。按这套分层,一个只跑顺利路径的代理项目最多证明你摸到了 0 到 1 层;面试官如果只问用了什么框架,很容易把演示讲成生产。
还有个时间上的小问题:这份材料写于 2026 年 10 月 19 日,而招生页的“下一期”是 2026 年 6 月 1 日。这个日期已经过去了。看到旧招生页,先别把它当成当前档期,更别把“结课作品”直接等同于生产经验。
十道题里先勾出你能拿出证据的那几条,剩下的就是下一步。先补最弱的一层,比再换一个模型更快。
我上次死磕评估层就没过 CI 门禁,结果上线后直接漂移,现在看这 0 到 6 层的顺序简直救命。