有人做了个 DeepSeekV4SSD：让 M 系列 Mac 本地跑全参数 284B 的 DeepSeek-V4-Flash，峰值内存大约 30GB。
有人做了个 DeepSeekV4SSD：让 M 系列 Mac 本地跑全参数 284B 的 DeepSeek-V4-Flash，峰值内存大约 30GB。
M5 Pro 接 Codex 实测：Prefill 180 tok/s，Decode 6.5 tok/s，输入 1.4 万 tokens。
门槛不低：Apple Silicon、macOS 15、建议 ≥64GB 统一内存 + 高速 SSD；完整安装约 167GB。
原理是 MoE 只从 SSD 抽当前需要的 expert，而不是整模塞进内存。
仓库放第二条。
提到的仓库