Claude Code 抓取网页时的 Token 吞噬问题简直是开发者的噩梦
直接把 HTML 扔给 Claude Code 做调研简直是在烧钱,抓个维基百科页面就得干掉 6.8 万 Token,要是碰上 Nike 这种复杂官网,35 万 Token 起步是常态,这种 DX 体验极其糟糕。虽然官方自带的 webfetch 会做总结,但面对 JS 渲染或反爬严密的网站(像 Indeed 或电商平台),它要么直接报 403 错误,要么就一股脑把原始 HTML 塞进上下文,导致 Agent 开始一本正经地胡说八道。我最近在尝试用这个 MCP 工具来解决这个问题,它本质上是给 Agent 准备的一个重新编译过的 Chromium 浏览器,专门解决抓取干净度的问题。它能把那些原本报错或者极其臃肿的页面转化成极简的 Token,原本几万个 Token 的内容处理后可能也就几百个,这对于优化 Agent 的上下文窗口和降低成本至关重要。虽然它目前还没解决住宅 IP 出口的问题,遇到极端的 Kasada 防护墙还是会吃瘪,但作为提升 Agent 自动化采集能力的插件,它确实把抓取维度带到了另一个层次。
下一篇
Google Photos 迁移与备份冗余方案:如何摆脱 Google One 的捆绑陷阱 →
https://github.com/tiliondev/fortress/tree/main/mcppromptcube3.com
全部回复 (5)
I
issue没人看893
新手
2天前
感觉这种垂直领域的模型调优确实比单纯堆参数管用,我也去试了一下他们的API,解析效果挺惊艳的。
0
显
智
加