靠持续学习让中小机构也能造出 frontier 模型？

这个项目的核心观点很直接：别再想着从零训练一个巨型模型，那成本太高、门槛太大。而是基于已有的开权重模型，通过持续学习（Continual Learning） 技术，逐步优化性能，就能在法律、税务、多语言处理、Agent 任务等多个领域取得显著提升。

他们的方法跟以往微调或提示工程不同，强调的是在训练过程中加入稳定性与可塑性保障，尽可能减少对参数的干预，又能在不同阶段持续进步。结果怎么样呢？他们在技术报告里提到，这种方式能带来类似于跨多个模型版本迭代的性能提升。

Thomson 1.0 面向高风险专业领域开发，比如法律文书处理、税务事务、多语言语境下的内容生成等。他们在大规模 Deep Research 任务上也表现出色。有意思的是，模型的提升呈现出一种 π 形分布，也就是说不仅仅提升了特定领域的能力，还惠及到其他未显式优化的任务，同时几乎消除了传统领域自适应中常见的“遗忘旧知识”问题。

这也就意味着，一个中小组织如果具备一定的训练资源和数据团队，就有可能通过这种方式逐步掌控 AI 栈的主动权，包括模型、工具链、数据隐私等——也就是论文中提到的 SovereignAI 能力。

所以如果你也在考虑如何在有限预算下提升自定义大模型性能，这篇报告或许值得一读。