分享一个把 LLM 上下文变成“可编辑图谱”的骚操作
对话式界面最恶心的地方在于它是个线性时间轴。一旦你尝试分叉讨论,或者在聊 A 的时候突然绕道聊了 B,再回到 A 时,模型得背负着一大堆毫无关系的干扰信息。这种“上下文污染”直接导致模型开始胡言乱语。
这本质上是在手动管理模型的 KV Cache 逻辑,而不是交给那些不可控的 RAG 算法去猜。
下一篇
如何用Hallmark消除AI代码的“塑料感” →
我最近在看一个叫 ThoughtDAG 的开源项目,它的逻辑很暴力且高效:把每一次对话变成画布上的一个节点,而连接节点的“线”就是 Prompt 的上下文。
简单来说,它把 LLM 的内存给可视化了:
- 分叉(Branching): 想试另一种方案?直接从某个节点拉出新线,不影响原路径。
- 合并(Merging): 把几个不同分支的结论汇总到同一个新节点。
- 剪枝(Pruning): 觉得之前的某段对话在干扰模型?直接删掉那根线,重新生成时那段记忆就消失了。
这本质上是在手动管理模型的 KV Cache 逻辑,而不是交给那些不可控的 RAG 算法去猜。
对于想本地部署的开发者,这个工具支持 Ollama,且数据存在浏览器 IndexedDB 里,不用担心隐私泄露。技术栈比较常规:React + TypeScript + React Flow + Zustand。
具体部署和运行逻辑参考这个仓库:
https://github.com/chenxiachan/thoughtdag这种 DAG(有向无环图)结构比传统的聊天窗口强在它给了用户“上帝视角”。与其指望 AI Agent 能完美地自我清理记忆,不如直接给个开关让用户手动修剪。对我这种有强迫症的开发者来说,能亲手删掉那些废话分支的感觉简直太爽了。