Sulphur 2 base GGUF

提供商Abiray
分类text-to-video
许可证Apache-2.0
下载量1.4K
星标7

简介

Sulphur 2 base GGUF 是一个基于 GGUF 格式量化的文本生成视频基础模型。对于国内开发者而言，GGUF 格式最大的意义在于大幅降低了显存门槛，使得在消费级 GPU 甚至大内存 Mac 上本地部署视频生成能力成为可能。该模型定位于基础版本，适合作为下游微调的起点或在低资源环境下进行快速原型验证。相比于依赖云端 API 的工具，它提供了更高的隐私性和离线运行能力，上手难度中等，需配合支持 GGUF 的推理框架使用。

核心亮点

  • GGUF 量化格式，显著降低本地运行显存占用
  • 文本驱动视频生成，支持离线私有化部署
  • Apache-2.0 协议，对商业化应用非常友好
  • 适合作为基础模型进行特定场景的微调优化

使用方法

安装依赖
# 安装 Hugging Face transformers
pip install transformers torch
SDK 使用
# 使用 transformers 加载模型
from transformers import AutoModel, AutoTokenizer

model = AutoModel.from_pretrained("Abiray/Sulphur-2-base-GGUF")
tokenizer = AutoTokenizer.from_pretrained("Abiray/Sulphur-2-base-GGUF")

Hugging Face 下载

我们推荐使用命令行或者 Hugging Face Hub SDK 来进行模型的下载。

操作指引：在下载前，请先通过如下命令安装 huggingface_hub：

操作指引 
pip install -U huggingface_hub

命令行下载

下载完整模型库

下载完整模型库 
huggingface-cli download Abiray/Sulphur-2-base-GGUF

下载单个文件到指定本地文件夹（以下载 config.json 到当前路径下 ./dir 目录为例）

下载单个文件到指定本地文件夹（以下载 config.json 到当前路径下 ./dir 目录为例） 
huggingface-cli download Abiray/Sulphur-2-base-GGUF config.json --local-dir ./dir

更多命令行下载选项，可参见官方文档

SDK 下载

SDK 下载 
# 模型下载
from huggingface_hub import snapshot_download
model_dir = snapshot_download('Abiray/Sulphur-2-base-GGUF')

Git 下载

请确保 lfs 已经被正确安装

Git 下载 
git lfs install
git clone https://huggingface.co/Abiray/Sulphur-2-base-GGUF

如果您希望跳过 lfs 大文件下载，可以使用如下命令

跳过 LFS 
GIT_LFS_SKIP_SMUDGE=1 git clone https://huggingface.co/Abiray/Sulphur-2-base-GGUF

模型文件托管在 Hugging Face Hub，使用 HF CLI / SDK / Git 直接下载，不经过本站。

PyTorch / Transformers 使用

安装 Transformers

安装 Transformers 
pip install -U transformers torch

模型加载和推理

模型加载和推理 
from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained('Abiray/Sulphur-2-base-GGUF')
tokenizer = AutoTokenizer.from_pretrained('Abiray/Sulphur-2-base-GGUF')

模型下载

我们推荐使用命令行或者 ModelScope SDK 来进行模型的下载。

操作指引：在下载前，请先通过如下命令安装 ModelScope：

操作指引 
pip install modelscope

命令行下载

下载完整模型库

下载完整模型库 
modelscope download --model Abiray/Sulphur-2-base-GGUF

下载单个文件到指定本地文件夹（以下载 README.md 到当前路径下 dir 目录为例）

下载单个文件到指定本地文件夹（以下载 README.md 到当前路径下 dir 目录为例） 
modelscope download --model Abiray/Sulphur-2-base-GGUF README.md --local_dir ./dir

更多更丰富的命令行下载选项，可参见具体文档

SDK 下载

SDK 下载 
# 模型下载
from modelscope import snapshot_download
model_dir = snapshot_download('Abiray/Sulphur-2-base-GGUF')

Git 下载

请确保 lfs 已经被正确安装

Git 下载 
git lfs install
git clone https://www.modelscope.cn/Abiray/Sulphur-2-base-GGUF.git

如果您希望跳过 lfs 大文件下载，可以使用如下命令

跳过 LFS 
GIT_LFS_SKIP_SMUDGE=1 git clone https://www.modelscope.cn/Abiray/Sulphur-2-base-GGUF.git

ModelScope 模型页直接下载模型文件；无需将模型文件放在本站服务器。

Notebook 快速开发

下载并安装 ModelScope library

下载并安装 ModelScope library 
pip install "modelscope[audio,cv,nlp,multi-modal,science]" -f https://modelscope.oss-cn-beijing.aliyuncs.com/releases/repo.html

模型加载和推理

模型加载和推理 
from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks

p = pipeline('text-generation', 'Abiray/Sulphur-2-base-GGUF')

完整文档

来源: HuggingFace

---
base_model: SulphurAI/Sulphur-2-base
library_name: gguf
pipeline_tag: text-to-video
tags:

  • gguf

  • quantized

---

Sulphur-2-Base (Dev) - GGUF

This repository contains GGUF format model files for SulphurAI's Sulphur-2-base.

Model Details

  • Format: GGUF
  • Architecture: ltxv
  • Model Size: 21B parameters

Available Quantizations

The following quantization tiers are provided to accommodate different hardware capabilities and VRAM constraints.

| Filename | Quantization Type | Size | Recommended Use |
|:---|:---|:---|:---|
| sulphur_dev_bf16.gguf | BF16 (16-bit) | 42.0 GB | Unquantized baseline. Maximum quality and accuracy. Requires massive VRAM. |
| sulphur_dev-Q8_0.gguf | Q8_0 (8-bit) | 22.8 GB | Extremely high quality, near unquantized performance. |
| sulphur_dev-Q6_K.gguf | Q6_K (6-bit) | 17.8 GB | Very high quality, minimal precision loss. |
| sulphur_dev-Q5_K_M.gguf | Q5_K_M (5-bit) | 16.1 GB | Excellent balance of quality and performance. |
| sulphur_dev-Q5_K_S.gguf | Q5_K_S (5-bit) | 15.0 GB | Slightly smaller 5-bit variant for strict memory limits. |
| sulphur_dev-Q4_K_M.gguf | Q4_K_M (4-bit) | 14.3 GB | Recommended standard. Fast inference with very low quality degradation. |
| sulphur_dev-Q4_K_S.gguf | Q4_K_S (4-bit) | 13.2 GB | Smaller 4-bit variant, slightly lower quality than K_M. |
| sulphur_dev-Q4_0.gguf | Q4_0 (4-bit) | 13.0 GB | Legacy 4-bit quant. Very fast inference but higher perplexity than K-quants. |
| sulphur_dev-Q3_K_M.gguf | Q3_K_M (3-bit) | 11.1 GB | High compression. Best for constrained environments with limited RAM/VRAM. |
| sulphur_dev-Q3_K_S.gguf | Q3_K_S (3-bit) | 10.3 GB | Maximum compression. Lowest footprint but highest quality loss. |

查看官方来源