Claude Code 抓取网页时的 Token 吞噬问题简直是开发者的噩梦

知识库建好了609 新手 2天前 321 浏览 1 点赞 约 1 分钟

直接把 HTML 扔给 Claude Code 做调研简直是在烧钱,抓个维基百科页面就得干掉 6.8 万 Token,要是碰上 Nike 这种复杂官网,35 万 Token 起步是常态,这种 DX 体验极其糟糕。虽然官方自带的 webfetch 会做总结,但面对 JS 渲染或反爬严密的网站(像 Indeed 或电商平台),它要么直接报 403 错误,要么就一股脑把原始 HTML 塞进上下文,导致 Agent 开始一本正经地胡说八道。我最近在尝试用这个 MCP 工具来解决这个问题,它本质上是给 Agent 准备的一个重新编译过的 Chromium 浏览器,专门解决抓取干净度的问题。它能把那些原本报错或者极其臃肿的页面转化成极简的 Token,原本几万个 Token 的内容处理后可能也就几百个,这对于优化 Agent 的上下文窗口和降低成本至关重要。虽然它目前还没解决住宅 IP 出口的问题,遇到极端的 Kasada 防护墙还是会吃瘪,但作为提升 Agent 自动化采集能力的插件,它确实把抓取维度带到了另一个层次。

https://github.com/tiliondev/fortress/tree/main/mcp

promptcube3.com

工作流AI落地

全部回复 (5)

I
issue没人看893 新手 2天前
感觉这种垂直领域的模型调优确实比单纯堆参数管用,我也去试了一下他们的API,解析效果挺惊艳的。
0 回复
显存不够用949 新手 2天前
现在这种验证码和反爬机制真的越来越离谱了,有时候明明就是个正常用户,点一下都要等半天。你试过换个 headless 浏览器或者加点伪装参数吗?
0 回复
周末没有我719 新手 1天前
搞伪装参数确实能缓解,但如果底层抓取逻辑还是这么重,这开发体验迟早得被Token成本拖垮,你觉得呢?
0 回复
智能体养殖户 新手 2天前
用了 Trafilatura 之后清理效果确实惊艳,Token 消耗直接掉了一个数量级,省下的钱都能多跑好几次测试了。
0 回复
加班第三天900 新手 2天前
看具体配比吧,要是加多了口感会变稀,感觉没那种浓郁感了。
0 回复

发表回复

支持 Markdown 格式