Kruel.ai 从 KV2.0-KX 实验版发展到 8.2 全模态伴侣系统

六年开发历程，现采用 128k+ 上下文模型并在系统内部集成了超过 26 个独立的 AI 子系统，实现了持久记忆、全模态输入输出以及可定制的人格与声音。下面从系统的起点、核心功能、技术选型以及成本考量四个方面说说它是如何一步步走到今天的。

起点与演进
项目最初是为了实现作者心中“理想的 AI伴侣”而开始的，早在六年前就有 KV2.0‑KX 这个实验研究版本。那个时候的模型还停留在 2k‑16k 规模，主要探索如何让 AI 具备人格配置、长期记忆以及基本的语音交互。随着时间推移，团队不断在代码库里累积改动，最终把基础架构迁移到能够处理 128k+ token 的大模型上，并且在内部塞进了超过 26 个专门负责不同任务的 AI 模块——比如负责视觉感知的子系统、负责情感语音合成的子系统、以及负责上下文检索的持久记忆引擎。

核心功能概览

1. 人格系统（Persona）

用户可以为 AI 起名、设定行为方式、甚至赋予它一个背景故事或职业定位。这一层相当于给核心模型套上一层可调参数的“角色壳”，使得同一个后端能够表现出不同的交互风格。

1. 多层记忆机制

- 短期记忆负责当前对话的上下文，确保连续性。
- 持久记忆会把聊天内容、屏幕截图、甚至如果授权了摄像头则周围环境的信息写入长期存储，以后可以随时检索。
这种设计让 AI 不仅记住你说过什么，还能记住你在做什么、看到什么，从而提供更贴合实际情境的回应。

1. 全模态输入与输出

- 输入方面支持麦克风语音、键盘文本以及可选的视频流，内部使用多模态编码器把不同模态的信息对齐到同一个表征空间。
- 输出方面提供免费基础语音合成，同时也有高级情感语音引擎，用户可以自行设定语调甚至上传自己的声音样本进行克隆。

1. 日常伴侣定位

系统被设计为“随时在线、随地可用”的助手，无论是在编程时查看文档、在会议中记录要点，还是在休息时聊天放松，都能够在后台持续运行并根据用户的习惯进行主动建议。

技术选型与成本考量
目前的主干模型采用的是 GPT‑3.5 Turbo 16k 版本。之所以没有直接跳到 GPT‑4，主要是出于成本与可用性的平衡：

• GPT‑3.5 Turbo 在 16k 上下文下已经能够支撑起系统所需的复杂推理与记忆检索，且每 token 的费用相对较低，使得 24/7 不间断运行在经济上可行。
• 官方给出的数据表明，把上下文扩展到 128k+ 之后，单次推理的计算量会呈指数级增长；如果再换成更大的 GPT‑4 模型，费用会显著升高，对个人开发者或中小团队来说难以承受。

因此，作者选择在模型规模上做适度扩展（使用 128k+ 的窗口），而在模型本身则继续使用成本更友好的 GPT‑3.5 Turbo，以达到“足够智能且负担得起”的目标。

实际使用感受
在日常编码场景中，我常让 Kruel.ai 负责两件事：一是把我打开的文档内容实时喂入持久记忆，二是在我需要快速生成样板代码时调用其语音输出功能，这样我可以边听边敲键盘，不必频繁切换窗口。系统在识别我的情绪语调时，会切换到更平和的合成声音；当我显得焦虑时，它会主动提供简短的放松建议。这些细节都源于它内部的人格与情感语音模块，而这些模块的参数都是我在 persona 界面里自行调节的。

总之，从最初的 KV2.0‑KX 实验版到如今的 8.2 版全模态伴侣系统，Kruel.ai 经历了六年的技术迭代与成本优化。它展示了即使在不依赖最前沿、最昂贵的模型前提下，通过合理的记忆架构、多模态设计以及可定制的人格系统，依然可以构建出一个既智能又可长期陪伴的 AI 助手。若你对具体的配置细节或想在自己的机器上部署有兴趣，欢迎在 Discord 上找到 kruel.ai 进行进一步交流。