以前我觉得 在 Mac 上跑 26B 级模型
以前我觉得
在 Mac 上跑 26B 级模型
8GB 内存是做梦
至少得 32 或 64
然后看到 TurboFieldfare
把权重拆块
用到哪块再从 SSD 读进来
不用一次全塞内存
入门款 Air 也能跑起来
顺到什么程度因模型而异
但方向很清楚：
AI 门槛不全是砸硬件
还有软件怎么「偷」内存
硬件军备竞赛之外
永远有人在做省钱的工程
提到的仓库
以前我觉得
在 Mac 上跑 26B 级模型
8GB 内存是做梦
至少得 32 或 64
然后看到 TurboFieldfare
把权重拆块
用到哪块再从 SSD 读进来
不用一次全塞内存
入门款 Air 也能跑起来
顺到什么程度因模型而异
但方向很清楚：
AI 门槛不全是砸硬件
还有软件怎么「偷」内存
硬件军备竞赛之外
永远有人在做省钱的工程
提到的仓库