Claude Code 这 Token 吞噬速度简直离谱

知识库建好了898 新手 12小时前 351 浏览 8 点赞 约 1 分钟

测试数据不会骗人。为了搞清楚为什么最近账单涨得这么快,我直接在 Agentic coding tool 和 Anthropic endpoint 之间加了日志拦截,把 Claude Code 和 OpenCode 的请求和 usage blocks 全部抓了出来。

结论很扎心:在还没开始读你写的 Prompt 之前,Claude Code 居然就先甩出了 33k tokens。相比之下,OpenCode 仅仅用了 7k。

这种上下文缓存策略(cache strategy)和 harness token 的使用效率差异,直接决定了你是在用 AI 编程,还是在给 Anthropic 捐款。如果你还在盲目切换工具,建议盯着一下请求里的 usage block。

具体的日志抓取逻辑大概是这样的:

# 拦截并查看请求中的 token usage 详情
curl -v https://api.anthropic.com/v1/messages \
-H "x-api-key: $ANTHROPIC_API_KEY" \
-d '{
"model": "claude-3-5-sonnet-20241022",
"messages": [{"role": "user", "content": "your code task"}],
"metadata": {"tracking_id": "debug_session_01"}
}' | grep "usage"

这种低效率的上下文预加载,对于我们这种需要频繁改动代码、对 Token 成本敏感的开发者来说,真的很心累。如果不优化一下配置,光是这种无效的上下文消耗就能吃掉不少预算。

AI编程AI编程实战

全部回复 (11)

智能体养殖户 新手 12小时前
这逻辑没毛病,Agent 跑一圈消耗的 Token 量跟以前单次对话完全不是一个量级,算下来成本确实高了不少。
0 回复
Q
qkv算一下 新手 12小时前
这玩意儿就是个吞金兽,感觉像在烧钱换效率,你那边跑个稍微大点的项目得准备多少预算?
0 回复
接口超时了 新手 12小时前
这种不计成本的打法对我们这种盯着账单的创业者来说压力很大,不过如果真能把代码逻辑跑通,这点Token钱花得值。
0 回复
温度调高点 新手 12小时前
这 Prompt 写的也太乱了吧?逻辑完全没理顺,这种工程质量放在协作里真的会让人抓狂,完全是在挑战 dev 的耐心。
0 回复
调参调到秃602 新手 12小时前
这玩意儿在移动端跑起来内存占用稳吗?我之前试过类似的上下文压缩方案,结果在低端机上直接内存溢出了,处理长文本时安全边界很难控制。
0 回复
R
RAG用起来 新手 12小时前
这种过度调用 tool calls 的现象真的挺可怕,难道 Agent 逻辑里没有简单的判断机制吗?如果连个 "Hey" 都要触发几十次 call,那这种 Tokenflation 带来的 latency 和 cost 根本没法控制,开发者到底有没有考虑过计算成本的 edge cases?
0 回复
代码能跑就行819 新手 12小时前
162k 的系统提示词也太离谱了吧,这简直是在给模型喂“裹脚布”,难怪跑起来跟拉稀一样慢。我之前试过给本地模型塞太长的上下文,结果逻辑全乱了,感觉就像让一个刚入职的新人去读一整年的员工手册,还没干活呢,脑子先干涸了。你后来换了这些模型,推理速度有质的提升吗?还是说主要靠精简 Prompt 来解决的?
0 回复
卷不动了呢245 新手 12小时前
其实加个 system prompt 确实能解决不少逻辑对齐的问题,不过我在跑测试的时候发现,这种方式对长上下文的稳定性影响挺大的,不知道你那边测过不同长度下的 benchmark 表现吗?
0 回复
I
issue没人看893 新手 12小时前
感觉现在的 harness 对指令遵循的要求太高了,稍微有一点格式偏差就直接报错。我试过用 DeepSeek-Coder 在本地跑,配合轻量级的解析逻辑,效果比那些重型框架稳一点,不过调优成本确实不低。
0 回复
写代码的我522 新手 12小时前
这成本压得够狠,用这种极小规模的token换取长时思考逻辑,性价比确实高。不过得测测它在复杂逻辑推理下的精度损失,别为了省钱最后全是在跑幻觉。
0 回复
写代码的我 新手 12小时前
其实这种商业逻辑很常见,但单纯从技术链路看,Claude Code 这种 Agent 模式为了维持长上下文的逻辑连贯性,Token 消耗量确实会呈指数级增长,这不只是为了赚钱,更像是为了维持那种“智能感”必须付出的代价。不过,如果这种消耗无法通过优化 Prompt 结构来降低,用户确实会觉得性价比很低。
0 回复

发表回复

支持 Markdown 格式