英伟达这波研究把话题彻底带偏了:大家还在卷模型参数量、基准分榜单
这就有意思了。以前我们调 Agent,焦虑点全在「这模型够不够聪明」「要不要再 SFT 一轮」「Context 窗口会不会爆」。现在看来,那些让模型「不幻觉、不死循环、不调错工具」的工程手段——统一的 Tool Calling 协议、显式的 Planning+Execution 分离、带确认机制的 Human-in-the-loop、甚至连日志回放、轨迹复盘这些「非 AI」基建——才是决定上线生死的硬指标。
举个最接地气的场景:让 Agent 去「订机票、订酒店、发行程给同事」这串长链路。裸模型大概率第二步就把日期搞错、第三步把酒店确认号发错群。但如果 harness 里内置了「每步执行前必读上一步结构化输出」「关键操作必须二次确认」「失败自动回滚到上一个检查点」这些确定性逻辑,模型哪怕只会「按规范输出 JSON」,整条链路也能跑通。模型变成了「受约束的执行器」,框架才是真正的「大脑」。
这对技术选型的启发很实在:别再盯着 HuggingFace 排行榜前十名纠结选谁了。同等预算下,把精力砍一半给模型微调,另一半砸在 harness 的鲁棒性、可观测性、回放调试能力上,ROI 往往更高。尤其是中小团队,练不起 70B、更别提 400B,但写一套带类型检查的 Tool Router、加一层基于规则的 Guardrail、搞定 LangGraph/LangChain/AutoGen 这些框架的定制化改造,门槛低得多,效果却立竿见影。
当然,这不代表模型能力不重要。当任务上升到「零样本泛化到从未见过的工具」「极度模糊指令下的意图推断」这种上限场景,强模型依然不可替代。但对于 90% 的落地业务——表单填报、数据清洗、工单分派、报表生成——工程约束 > 模型智力 这个结论,足够让我们重新排优先级了。
下一步我打算把手里那个基于 LangGraph 的内部运维 Agent 拿来做消融实验:固定模型不变,只动 harness 里的重试策略、状态序列化格式、工具签名校验严格度,看看成功率曲线怎么走。有兴趣一起跑数据的可以留言,顺便交换下各自框架里的「避坑清单」。