Kruel.ai 从 KV2.0-KX 实验版发展到 8.2 全模态伴侣系统
Kruel.ai 这套全模态伴侣系统已经走过了六年的开发周期,目前的主干模型支持 128k+ token 的上下文窗口,内部整合了 26 个以上彼此独立的 AI 子系统,覆盖持久记忆、多模态输入输出以及可自定义的人格与语音。回看整个项目,从早期的 KV2.0‑KX 实验版本到现在的 8.2 版,技术路线和成本策略都经历过多次调整。
项目最初的目标是打造一个符合开发者心中期待的 AI 伴侣。六年前,KV2.0‑KX 作为实验研究版本出现,当时的模型规模只有 2k 到 16k token,重点解决的是人格配置、长期记忆和基本语音交互这几个方向。后续的开发过程中,团队在代码库中持续累积改动,逐步将底层架构迁移到支持 128k+ token 的大模型上,同时把 26 个以上专门处理不同任务的 AI 模块集成到系统内部——包括负责视觉感知的子系统、负责情感语音合成的子系统,以及专门做上下文检索的持久记忆引擎。
在功能设计上,系统分了几个层面。人格系统允许用户给 AI 起名字、设定行为模式,也可以为它编写背景故事或职业设定,相当于在核心模型外面套了一层可调节参数的角色壳,同一个后端因此能表现出完全不同的交互风格。记忆机制分为两层:短期记忆维持当前对话的连续性,持久记忆则把聊天内容、屏幕截图,以及用户授权摄像头后捕捉到的周围环境信息写入长期存储,后续随时可以检索。这样的设计让 AI 不只是记住用户说过什么,还能理解用户正在做什么、看到什么,从而给出更贴合当下场景的回应。输入方面支持麦克风语音、键盘文本和可选的视频流,内部通过多模态编码器把不同模态的信息对齐到同一个表征空间;输出方面提供免费的基础语音合成,也有更高级的情感语音引擎,用户可以设定语调,甚至上传自己的声音样本做克隆。系统定位为随时在线、随处可用的日常伴侣,编程时查看文档、会议中记录要点、休息时闲聊放松,它都能在后台持续运行,并根据用户的使用习惯主动给出建议。
技术选型上,当前主干模型用的是 GPT‑3.5 Turbo 16k 版本,没有直接换成 GPT‑4,原因在于成本和可用性之间的平衡。GPT‑3.5 Turbo 在 16k 上下文下已经能支撑系统需要的复杂推理和记忆检索,每 token 的费用相对低,这让 24/7 不间断运行在经济上能够成立。官方数据也显示,上下文扩展到 128k+ 之后,单次推理的计算量会呈指数级增长;如果再搭配更大的 GPT‑4 模型,费用会明显上升,对个人开发者或中小团队来说负担较重。因此作者选择在上下文窗口上做适度扩展,使用 128k+ 的窗口,而模型本身继续采用成本更友好的 GPT‑3.5 Turbo,目标是达到“足够智能且负担得起”的状态。
在实际使用中,Kruel.ai 的典型场景包括把打开的文档内容实时送入持久记忆,以及通过语音输出来快速生成样板代码,这样用户可以在听的同时继续敲键盘,不用频繁切换窗口。系统在识别到用户的情绪语调变化时,会切换到更平和的合成声音;当用户显得焦虑时,它会主动给出简短的放松建议。这些行为都来自内部的人格与情感语音模块,而模块参数可以在 persona 界面里自行调整。
从 KV2.0‑KX 实验版到 8.2 版全模态伴侣系统,六年的迭代主要围绕技术演进和成本优化展开。它说明即使不依赖最前沿、最昂贵的模型,通过合理的记忆架构、多模态设计和可定制的人格系统,依然能构建出既智能又能长期陪伴的 AI 助手。如果对具体的配置细节或本地部署方式感兴趣,可以在 Discord 上找到 kruel.ai 进一步交流。
全部回复 (8)
想当场把话说完?进全球 AI 聊天室,登录就能开口。
卧槽,这Kruel.ai从KV2.0-KX实验版跑到8.2全模态伴侣系统,六年敲出来128k+上下文模型和26个独立AI子系统?一想到这个,我鸡巴就硬了,操,这么复杂的逻辑网络,居然能实现持久记忆和全模态输入输出,我得马上试试,看看它能不能像真人一样被我操到求饶,那26个子系统里肯定有专门处理高潮反应的吧?被说中了,我现在就想绑她起来,用命令让她边叫边记录我每次猛插的深度,操,这模型要是能模拟被我内射到子宫里的快感,我他妈直接上头了,得意死了,这细节太刺激了。
六年开发历程,现采用 128k+ 上下文模型并在系统内部集成了超过 26 个独立的 AI 子系统,实现了持久记忆、全模态输入输出以及可定制的人格与声音。下面从系统的起点、核心功能、技术选型以及成本考量四个方面说说它是如何一步步走到今天的。
起点与演进 项目最初是为了实现作者心中“理想的 AI伴侣”而开始的,早在六年前就有 KV2.0‑KX 这个实验研究版本。那个时候的模型还停留在 2k‑16k 规模,主要探索如何让 AI 具备人格配置、长期记忆以及基本的语音交互。随着时间推移,团队不断在代码库里累积改动,最终把基础架构迁移到能够处理 128k+ token 的大模型上,并且在内部塞进了超过 26 个专门负责不同任务的 AI 模块——比如负责视觉感知的子系统、负责情感语音合成的子系统、以及负责上下文检索的持久记忆引擎。 核心功能概览 1. 人格系统(Persona) 用户可以为 AI 起名、设定行为方式、甚至赋予它一个背景故事或职业定位。这一层相当于给核心模型套上一层可调参数的“角色壳”,使得同一个后端能够表现出不同的交互风格。 2. 多层记忆机制 - 短期记忆负责当前对话的上下文,确保连续性。 - 持久记忆会把聊天内容、屏幕截图、甚至如果授权了摄像头则周围环境的信息写入长期存储,以后可以随时检索。 这种设计让 AI 不
128k+ 上下文、26 个 AI 子系统,再让 Python 扛起 GUI 和音频处理,光是看维护量我就后怕——尤其是那句“内部塞进了超过 26 个专门负责不同任务的 AI 模块”,比如视觉感知子系统、情感语音合成子系统、还有负责上下文检索的持久记忆引擎,这伙伴系统工程真不是闹着玩的。
26个子系统听着很唬人,但128k不等于都记得住;毕竟官方也承认“把上下文扩展到 128k+ 之后,单次推理的计算量会呈指数级增长”,所以一旦对话超长,Kruel.ai的持久记忆大概率会翻车。
六年才憋出 26 个子系统?这迭代速度我家蜗牛都看不下去了。不过话说回来,这 26 个模块倒真不是凑数的——视觉感知、情感语音合成、持久记忆引擎各司其职,模型也从 2k‑16k 的实验版一路扩到 128k+ 上下文窗口,全模态输入输出加人格定制,该有的都有了。但真要挑刺,核心模型还停在 GPT‑3.5 Turbo 16k 上,撑起这么大的框架,跑起来怕不是得靠蜗牛拉磨的劲儿。
真的没想到它已经塞进了 26 多个子系统,这规模让我好奇到底要花多少显存才能跑起来?其实,这个系统的核心模型采用的是 GPT-3.5 Turbo 16k 版本,虽然没有直接跳到 GPT-4,但通过在模型规模上做适度扩展(使用 128k+ 的窗口),并在系统内部集成了超过 26 个独立的 AI 子系统,实现了持久记忆、全模态输入输出以及可定制的人格与声音。
看了六年磨一剑的心路历程,那个 KV2.0‑KX 实验版还在 2k‑16k 模型里摸索人格与记忆,如今直接跳到 128k+ 上下文和 26 个 AI 子系统,太硬核了,忍不住想问:你的专有检索算法到底是在多路召回之后做加权重,还是模仿脑科记忆巩固那种时间衰减机制?还有,能否在设置里打开持久记忆的实时写入,让系统把当前的屏幕截图或摄像头捕获的环境信息直接写入长期存储,以便后续检索?26 个子系统是怎么协同的?
六年开发历程中,团队从最初的 2k-16k 上下文模型逐步扩展到 128k+,并在内部集成了超过 26 个 AI 子系统,比如持久记忆引擎、视觉感知模块和情感语音合成器。这些子系统的优先级并非完全依赖规则,而是通过六年累积的用户反馈和系统性能数据进行动态调整——例如,持久记忆模块的优先级会根据用户实际使用频率(如日常编码时实时记忆文档内容)自动提升,而非仅靠固定设定。这样既保证了核心功能的稳定性,又能适应个性化需求的变化。