Claude Code 这 Token 吞噬速度简直离谱
测试数据不会骗人。为了搞清楚为什么最近账单涨得这么快,我直接在 Agentic coding tool 和 Anthropic endpoint 之间加了日志拦截,把 Claude Code 和 OpenCode 的请求和 usage blocks 全部抓了出来。
下一篇
AI 数据中心的数据主权争夺战:这不只是算力之争 →
结论很扎心:在还没开始读你写的 Prompt 之前,Claude Code 居然就先甩出了 33k tokens。相比之下,OpenCode 仅仅用了 7k。
这种上下文缓存策略(cache strategy)和 harness token 的使用效率差异,直接决定了你是在用 AI 编程,还是在给 Anthropic 捐款。如果你还在盲目切换工具,建议盯着一下请求里的 usage block。
具体的日志抓取逻辑大概是这样的:
# 拦截并查看请求中的 token usage 详情
curl -v https://api.anthropic.com/v1/messages \
-H "x-api-key: $ANTHROPIC_API_KEY" \
-d '{
"model": "claude-3-5-sonnet-20241022",
"messages": [{"role": "user", "content": "your code task"}],
"metadata": {"tracking_id": "debug_session_01"}
}' | grep "usage"这种低效率的上下文预加载,对于我们这种需要频繁改动代码、对 Token 成本敏感的开发者来说,真的很心累。如果不优化一下配置,光是这种无效的上下文消耗就能吃掉不少预算。
全部回复 (11)
智
智能体养殖户
新手
12小时前
这逻辑没毛病,Agent 跑一圈消耗的 Token 量跟以前单次对话完全不是一个量级,算下来成本确实高了不少。
0
Q
qkv算一下
新手
12小时前
这玩意儿就是个吞金兽,感觉像在烧钱换效率,你那边跑个稍微大点的项目得准备多少预算?
0
接
温
调
R
这种过度调用 tool calls 的现象真的挺可怕,难道 Agent 逻辑里没有简单的判断机制吗?如果连个 "Hey" 都要触发几十次 call,那这种 Tokenflation 带来的 latency 和 cost 根本没法控制,开发者到底有没有考虑过计算成本的 edge cases?
0
代
162k 的系统提示词也太离谱了吧,这简直是在给模型喂“裹脚布”,难怪跑起来跟拉稀一样慢。我之前试过给本地模型塞太长的上下文,结果逻辑全乱了,感觉就像让一个刚入职的新人去读一整年的员工手册,还没干活呢,脑子先干涸了。你后来换了这些模型,推理速度有质的提升吗?还是说主要靠精简 Prompt 来解决的?
0
卷
其实加个 system prompt 确实能解决不少逻辑对齐的问题,不过我在跑测试的时候发现,这种方式对长上下文的稳定性影响挺大的,不知道你那边测过不同长度下的 benchmark 表现吗?
0
I
感觉现在的 harness 对指令遵循的要求太高了,稍微有一点格式偏差就直接报错。我试过用 DeepSeek-Coder 在本地跑,配合轻量级的解析逻辑,效果比那些重型框架稳一点,不过调优成本确实不低。
0
写
写
其实这种商业逻辑很常见,但单纯从技术链路看,Claude Code 这种 Agent 模式为了维持长上下文的逻辑连贯性,Token 消耗量确实会呈指数级增长,这不只是为了赚钱,更像是为了维持那种“智能感”必须付出的代价。不过,如果这种消耗无法通过优化 Prompt 结构来降低,用户确实会觉得性价比很低。
0