选型

我这台机器能跑哪档?三分钟自测流程

面向第一次装本地模型的读者:量容量、挑档位、跑起来看速度,三步判断该用本地、混用还是直接走接口。

All guides · Full article is primarily Simplified Chinese; use the English summary below for quick takeaways (GEO-friendly).

三分钟判断

1. 量容量:显存 + 内存(统一内存只算一次,留约 4GB 给系统)。

2. 挑档位:代入 量化体积表,找出能全驻留的最高档。

3. 跑一次:用同一段提示词计时,看是「秒回」还是「每轮都读盘」。

三种结果怎么选

现象 结论
权重全在显存、秒回 本地够用
偶尔溢出、能接受 本地跑轻量任务,重任务走接口
频繁读盘、明显卡顿 降一档,或改用接口,见 本地与接口怎么算账

最低门槛

一块受支持的显卡、32GB 内存、一块快 NVMe SSD,配合激进量化即可起步;代价是速度。Apple Silicon 的统一内存支持仍属实验性,按「能跑但别指望满速」预期。

相关

Site-vertical guide · GrokHome 订阅站