如何在 Ollama 中通过 Modelfile 自定义 System Prompt 打造专属 AI 助手

很多用 Ollama 的朋友习惯直接 ollama run llama3 这种快速启动方式，但这种用法其实浪费了模型 50% 的潜力。大多数人所谓的“调优”还停留在对话框里发一段指令，但这种临时性的 Prompt 随着对话长度增加很容易被模型“遗忘”，导致 AI 助手在聊到后面时又变回了那个死板的通用机器人。

真正的定制化应该在 Modelfile 层面完成。简单来说，Modelfile 就像是给模型写的一份“出厂设定”，通过 SYSTEM 指令注入的 Prompt 会被固化在模型的配置中，成为它的底层认知。

操作逻辑非常直接，只需要创建一个文本文件（比如叫 my-assistant.Modelfile），内容结构如下：

# 继承基础模型
FROM llama3

# 设置参数，比如调整随机性
PARAMETER temperature 0.7

# 核心：定义系统提示词
SYSTEM """
你是一个精通 Rust 语言的资深架构师，说话风格极其简洁，拒绝任何废话。
在给出代码之前，必须先用一句话分析潜在的内存安全风险。
所有代码示例必须包含完整的 Cargo.toml 依赖说明。
"""

保存后，执行一行命令即可将这个自定义版本实例化：

ollama create my-rust-expert -f my-assistant.Modelfile

这次更新意味着开发者可以将 AI 助手从“通用对话框”转化为“专业工具链”。这意味着你可以为不同的工作流构建独立的模型实例：一个专门负责把自然语言转成 SQL 的 sql-bot，一个专门负责 Review 代码的 review-bot，而不需要每次启动后重新输入冗长的设定。

这种做法对开发者的实际意义在于：实现了 Prompt 的版本化管理。 你可以将 Modelfile 提交到 Git 仓库，像管理代码一样管理 AI 的行为模式，而不是依赖于某个聊天记录里的碎片化指令。

此外，通过 PARAMETER 配合 SYSTEM Prompt，可以精准控制模型的输出稳定性。比如对于需要极高严谨性的技术助手，将 temperature 调低至 0.2，配合强制性的格式约束，能有效降低 LLM 常见的“幻觉”问题，让本地部署的 AI 真正具备生产力。