DwarfStar（ds4）是一个刻意做窄的本地大模型推理引擎，用 C、Metal、CUDA 和 ROCm 针对少数大模型与高内存消费级硬件优化。它不是通用 GGUF runner，必须使用项目生成或指定的 GGUF。
来源：github.com/antirez/ds4 查看 GitHub 仓库 → 📘 使用教程 →项目把模型加载、量化、KV 状态、HTTP 服务、原生 coding agent、正确性测试和性能基准放在同一仓库里。旧页面只写 DeepSeek V4 Flash 已经过期；当前 README 还列出 DeepSeek V4.1 Flash/PRO、GLM 5.2/5.3、GLM 5.3 Flash 和 Qwen3.8 Flash Next，具体支持随主分支快速变化。
来源：github.com/antirez/ds4主要面向 96GB+ Apple Silicon、DGX Spark、一般 CUDA 多卡和 Strix Halo/Framework Desktop。
来源：github.com/antirez/ds4内存不足时可用 SSD streaming；原生 Agent 会把兼容会话存到 ~/.ds4/kvcache，保存内容可能含私密对话和轨迹。
来源：github.com/antirez/ds4提供 ds4、ds4-server 和 ds4-agent；服务器默认监听 127.0.0.1:8000，兼容多种常见 API 入口。
来源：github.com/antirez/ds4 (1) · github.com/antirez/ds4/blob/main/docs/SERVER.md (2)核心推理代码与 Metal/CUDA/ROCm 后端直接配合，模型、GGUF/量化工具、KV store、CLI、server、agent、评测和测试共同版本化。项目通过 platform-specific make target 选择后端；HTTP server 暴露 chat/completions、responses、completions 和 messages 接口。
来源：github.com/antirez/ds4项目指定 GGUF目标平台 GPU 工具链大量内存或 SSD streaming适合有 96GB+ Mac、DGX Spark、Strix Halo 或合适 CUDA 多卡的开发者研究本地大模型推理、长上下文、SSD streaming、多会话服务与 coding agent 接入。普通内存设备或需要多模型即插即用时不适合。
来源：github.com/antirez/ds4截至 2026-09-23，官方 GitHub API 没有 release 或 tag；项目通过快速变化的 main 分支开发，README 明确标为 beta。版本核对必须记录 commit，而不能编造 release 号。
来源：github.com/antirez/ds4status: official_docs_checked_not_built_or_run | checked_at: 2026-09-23 | environment: 核对官方 README、MODELS、SERVER、CLIENTS、TESTING、GitHub API 的 releases/tags 与仓库元数据；未下载权重、编译或运行 | limitations: 未验证硬件兼容、权重哈希、token/s、SSD 寿命、量化质量、API 兼容性或多机配置 | observed_output: 官方资料确认四种 build target、ds4f-q2 下载入口、ds4/ds4-agent/ds4-server、默认 127.0.0.1:8000、beta 状态和当前无 release/tag
来源：github.com/antirez/ds4ds4 官方把自己定义为少数模型的专用引擎，并要求项目指定 GGUF；llama.cpp 面向更广泛模型与硬件，强调最少依赖和通用本地推理。需要通用兼容性时优先 llama.cpp；硬件和模型正好落在 ds4 优化范围、愿意跟随 beta 主分支时再选 ds4。
来源：github.com/antirez/ds4 (1) · github.com/ggml-org/llama.cpp (2)适合具备高内存 Mac、DGX Spark、Strix Halo 或合适 CUDA 多卡，并愿意测试 beta 专用推理路径的用户。先确认模型、后端、内存和磁盘，再决定是否下载权重；需要通用本地模型 runner 时应优先评估 llama.cpp。
来源：官方 README 与文档入口不是。当前 README 还列出 DeepSeek V4.1 Flash/PRO、GLM 5.2/5.3、GLM 5.3 Flash 和 Qwen3.8 Flash Next；具体后端支持查 MODELS 文档。
官方主要目标是 96GB+ Mac。小内存设备可能依赖 SSD streaming，但模型、上下文和速度限制明显。
不应直接暴露。官方要求公网部署自行增加认证和 TLS；CORS 不提供访问控制。
要广泛模型和通用生态时选 llama.cpp；目标模型和硬件在 ds4 优化清单内，并能接受 beta 迭代时再评估 ds4。