模型卡片
这款模型是 Google 推出的 Gemma 4 系列中的轻量化版本,采用了 GGUF 量化格式,非常适合在个人电脑或边缘设备上通过 llama.cpp 等工具本地部署。它最大的特点是具备“Any-to-Any”的多模态处理能力,不再局限于纯文本交互,能够理解并处理多种输入模态。对于开发者而言,由于其经过了 QAT(量化感知训练)优化,在保持极低显存占用的同时,尽可能减少了量化带来的精度损失。如果你想在本地构建一个既能读图、又能对话,且对硬件配置要求不高的智能助手,这款模型是一个平衡性能与资源消耗的极佳选择。
模型文件与版本
下载模型
推荐使用 ModelScope 命令行或 SDK 下载。下载前请先安装 ModelScope,并根据需要选择完整模型、单个文件、SDK 或 Git LFS 方式。
google/gemma-4-E2B-it-qat-q4_0-gguf下载前先安装命令行和 SDK 依赖。
pip install modelscope下载完整模型权重、配置和模型卡片。
modelscope download --model google/gemma-4-E2B-it-qat-q4_0-gguf这里以 README.md 为例,也可以替换为仓库内的其他文件。
modelscope download --model google/gemma-4-E2B-it-qat-q4_0-gguf README.md --local_dir ./dir适合在 Python 项目或自动化脚本中使用。
from modelscope import snapshot_download
model_dir = snapshot_download('google/gemma-4-E2B-it-qat-q4_0-gguf')请确保 Git LFS 已正确安装。
git lfs install
git clone https://www.modelscope.cn/google/gemma-4-E2B-it-qat-q4_0-gguf.git先获取仓库结构,之后再按需拉取大文件。
GIT_LFS_SKIP_SMUDGE=1 git clone https://www.modelscope.cn/google/gemma-4-E2B-it-qat-q4_0-gguf.git如何使用
- 01步骤 1
阅读模型卡片和来源信息。
- 02步骤 2
从小型、非敏感任务开始评估。
- 03步骤 3
核对输出质量、许可和使用限制。
- 04步骤 4
验证通过后再纳入工作流。
讨论与反馈
这里保留讨论入口,方便继续核对来源、使用体验和维护状态。
前往来源页面