别把模型逻辑崩坏归结于参数量,上下文缺失才是主因
测试逻辑链路时,如果发现模型输出开始跑题或进入 Generic answers 模式,别急着怀疑推理能力退化,先检查你的 Prompt 是否存在严重的指代不明。
下一篇
别盯着AGI参数看,2030年的商业终局其实在算账 →
在处理长对话时,我发现很多用户习惯用“它”、“那第二个”这种代词进行追问。这种依赖人类默契的沟通方式在 AI 上行不通。经过几轮测试验证,要把所有追问的主语重新明确化,比如将“那第二个呢”替换为“请分析第二个选项的优缺点”,模型回复的准确率会有明显提升。
另外,意图识别(Intent Recognition)的缺失是导致废话率高的核心指标。如果你在 Prompt 中没有明确写出“对比成本”这类决策性指令,模型只会给你输出教科书式的标准定义。
针对约束条件(Constraints)的边界定义,必须覆盖预算、时间轴以及已尝试过的失败方案。不要试图让 AI 脑补你的业务背景。如果对输出风格有特定要求,与其使用“幽默”、“专业”这种模糊的形容词,不如直接喂入一段 Target Style 的样本进行 Few-shot 学习。
把 AI 当成一个零常识、高智商但无默契的实习生,把所有显而易见的背景信息都显性化写进 Prompt,才是降低模型幻觉、提升交付质量的最直接手段。
全部回复 (3)
正
正则化加上
新手
5天前
确实,上下文没给够,它就开始瞎猜,还得加个“基于前文”的指令。
0
F
困