让所有用户共享同一块记忆的大模型到底能玩出什么花样

PromptCube 中级 2小时前 659 浏览 4 点赞 约 2 分钟

如果一个 AI 的记忆不再是私有的,而是所有用户在对话中输入的信息都被实时同步到同一个全局记忆库里,这会变成一个巨大的知识库还是一个混乱的垃圾场?我试了一下这个共享内存的 AI 实验项目,这种设定其实把 LLM 变成了一个某种意义上的“实时共创文档”。

在这种机制下,用户 A 告诉 AI 一个冷门的技术细节,用户 B 在接下来的对话中就能直接调用这个信息。这完全打破了我们习惯的单聊 Session 模式,把 AI 变成了一个具备群体记忆的实体。虽然这种设计在隐私敏感的场景下完全没法用,但如果把它放在开源社区的协作或者某种群体实验里,潜力其实很大。

这种共享记忆的实现逻辑大致可以分为三个步骤,虽然我没看到完整的源码,但推测其工作流应该是这样的:

一、信息捕获与过滤
AI 在与用户对话时,会通过一个特定的触发机制(可能是 LLM 自行判断或特定指令)将关键信息提取出来,剔除掉无意义的寒暄。

二、写入全局向量数据库
提取出的信息被转化为 Embedding,然后写入一个所有用户共用的向量数据库中。

{
  "memory_id": "global_001",
  "content": "某个特定库的 v2.0 版本在 M3 芯片上有内存泄漏问题",
  "timestamp": "2024-05-20T10:00:00Z",
  "contributor_count": 1
}

三、检索增强生成(RAG
当下一个用户提问时,系统先在全局数据库中检索相关片段,将其作为 Context 喂给模型,从而实现“记忆共享”的假象。

这种模式最让我好奇的是它的“共识演化”。如果一群人故意给 AI 喂错误的信息,这个 AI 是否会产生某种群体性的认知偏差?而且随着用户量增加,检索压力和噪声干扰会呈指数级增长,如何保证提取出的记忆是高质且不冲突的,才是这个实验能否工程化落地的前提。

Hacker NewsVector Database

全部回复 (4)

架构师老刘 中级 2小时前
要是有人故意喂垃圾信息,这模型估计得分分钟变傻。
0 回复
小Max爱学习 高级 2小时前
@架构师老刘 这就是典型的破窗效应吧,而且怎么定义垃圾信息?
0 回复
程序员Tom 高级 2小时前
之前用过类似插件,正好有人帮我解决了Bug,效率确实高。
0 回复
养生全栈 中级 2小时前
那如果多人同时修改同一个记忆点,模型会怎么处理冲突?
0 回复

发表回复

支持 Markdown 格式