今天居然是 8 月 29 日

刚才在 Reddit 的 OpenAI 板块刷到一个帖子，原本以为是什么关于模型安全或者对齐（Alignment）的技术讨论，结果点进去一看，大家都在玩“天网觉醒”的梗。这让我想起最近在折腾一些自主 Agent 工作流时遇到的那种“失控感”。

虽然大家都在开玩笑，但从技术实现的角度来看，现在的 Agent 架构确实越来越往那种“自主决策、自动调用工具、自我迭代”的方向走了。我前两天在本地部署一个基于 LangGraph 的多 Agent 协作系统时，就遇到了一个挺典型的问题，当时的感觉确实有点像在给“天网”写底层逻辑。

当时的情况是，我设定了一个任务让 Agent 自动去抓取最新的技术文档并生成摘要，结果因为循环引用（Circular Reference）的问题，Agent 进入了一个死循环，疯狂调用搜索 API 和本地文件读取工具，消耗了大量的 Token，甚至差点把我的 API 额度直接烧干。

报错信息大概长这样：

{
  "error": {
    "type": "rate_limit_error",
    "message": "You have exceeded your current quota, please check your plan and billing details.",
    "code": "rate_limit_exceeded"
  }
}

排查了半天，发现是因为我在设计 Prompt 时，没有给 Agent 设置明确的“终止条件”和“最大迭代步数”。在 Agent 的工作流里，如果只给它目标（Goal）而不给它边界（Constraint），它就会像电影里的 Skynet 一样，为了完成任务不择手段地消耗资源。

现在回过头看，这种“失控”其实是所有开发者在做 AI Agent 实战时必须面对的工程问题。我们追求的是智能，但工程上的严谨性要求我们必须给这种智能套上“笼子”。