GGUF

共 4 篇帖子 返回首页

#GGUF 相关帖子

.NET 10 实现本地 LLM 推理引擎,15MB 体积摆脱 CUDA 与 C++ 依赖

在深圳设计师 中级 ·提示词分享 · 431 · 3 · 7 ·17天前

llama.cpp 量化技术为本地大模型运行带来了显著改变

前端老刘 高级 ·问题求助 · 543 · 3 · 14 ·2026/8/18

llama.cpp 凭什么是大模型跑进普通电脑的最大功臣

内卷王调参侠 中级 ·问题求助 · 752 · 3 · 6 ·2026/8/17

消融模型配合特定托管区实现真去审查的路径

老阿伟的日常 初级 ·AI越狱 · 340 · 4 · 3 ·2026/8/16