Wan2.2 T2V A14B GGUF
简介
核心亮点
- GGUF 量化大幅降低显存,适配消费级显卡
- 支持高质量文生视频,画面流畅度极佳
- Apache-2.0 协议,对商业应用非常友好
- 本地部署门槛低,推理速度较原版显著提升
使用方法
# 安装 Hugging Face transformers
pip install transformers torch
# 使用 transformers 加载模型
from transformers import AutoModel, AutoTokenizer
model = AutoModel.from_pretrained("QuantStack/Wan2.2-T2V-A14B-GGUF")
tokenizer = AutoTokenizer.from_pretrained("QuantStack/Wan2.2-T2V-A14B-GGUF")
Hugging Face 下载
我们推荐使用命令行或者 Hugging Face Hub SDK 来进行模型的下载。
操作指引:在下载前,请先通过如下命令安装 huggingface_hub:
pip install -U huggingface_hub
命令行下载
下载完整模型库
huggingface-cli download QuantStack/Wan2.2-T2V-A14B-GGUF
下载单个文件到指定本地文件夹(以下载 config.json 到当前路径下 ./dir 目录为例)
huggingface-cli download QuantStack/Wan2.2-T2V-A14B-GGUF config.json --local-dir ./dir
SDK 下载
# 模型下载
from huggingface_hub import snapshot_download
model_dir = snapshot_download('QuantStack/Wan2.2-T2V-A14B-GGUF')
Git 下载
请确保 lfs 已经被正确安装
git lfs install
git clone https://huggingface.co/QuantStack/Wan2.2-T2V-A14B-GGUF
如果您希望跳过 lfs 大文件下载,可以使用如下命令
GIT_LFS_SKIP_SMUDGE=1 git clone https://huggingface.co/QuantStack/Wan2.2-T2V-A14B-GGUF
模型文件托管在 Hugging Face Hub,使用 HF CLI / SDK / Git 直接下载,不经过本站。
PyTorch / Transformers 使用
安装 Transformers
pip install -U transformers torch
模型加载和推理
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('QuantStack/Wan2.2-T2V-A14B-GGUF')
tokenizer = AutoTokenizer.from_pretrained('QuantStack/Wan2.2-T2V-A14B-GGUF')
模型下载
我们推荐使用命令行或者 ModelScope SDK 来进行模型的下载。
操作指引:在下载前,请先通过如下命令安装 ModelScope:
pip install modelscope
命令行下载
下载完整模型库
modelscope download --model QuantStack/Wan2.2-T2V-A14B-GGUF
下载单个文件到指定本地文件夹(以下载 README.md 到当前路径下 dir 目录为例)
modelscope download --model QuantStack/Wan2.2-T2V-A14B-GGUF README.md --local_dir ./dir
SDK 下载
# 模型下载
from modelscope import snapshot_download
model_dir = snapshot_download('QuantStack/Wan2.2-T2V-A14B-GGUF')
Git 下载
请确保 lfs 已经被正确安装
git lfs install
git clone https://www.modelscope.cn/QuantStack/Wan2.2-T2V-A14B-GGUF.git
如果您希望跳过 lfs 大文件下载,可以使用如下命令
GIT_LFS_SKIP_SMUDGE=1 git clone https://www.modelscope.cn/QuantStack/Wan2.2-T2V-A14B-GGUF.git
ModelScope 模型页直接下载模型文件;无需将模型文件放在本站服务器。
Notebook 快速开发
下载并安装 ModelScope library
pip install "modelscope[audio,cv,nlp,multi-modal,science]" -f https://modelscope.oss-cn-beijing.aliyuncs.com/releases/repo.html
模型加载和推理
from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks
p = pipeline('text-generation', 'QuantStack/Wan2.2-T2V-A14B-GGUF')
完整文档
---
license: apache-2.0
base_model:
- Wan-AI/Wan2.2-T2V-A14B
library_name: gguf
pipeline_tag: text-to-video
tags:
- t2v
---
This GGUF file is a direct conversion of Wan-AI/Wan2.2-T2V-A14B
Since this is a quantized model, all original licensing terms and usage restrictions remain in effect.
Usage
The model can be used with the ComfyUI custom node ComfyUI-GGUF by city96
Place model files in ComfyUI/models/unet see the GitHub readme for further installation instructions.