Make money doing the work you believe in

以前我觉得

在 Mac 上跑 26B 级模型

8GB 内存是做梦

至少得 32 或 64

然后看到 TurboFieldfare

把权重拆块

用到哪块再从 SSD 读进来

不用一次全塞内存

入门款 Air 也能跑起来

顺到什么程度因模型而异

但方向很清楚:

AI 门槛不全是砸硬件

还有软件怎么「偷」内存

硬件军备竞赛之外

永远有人在做省钱的工程

Aug 13
at
10:34 PM
Relevant people

Log in or sign up

Join the most interesting and insightful discussions.