我这台机器能跑哪档?三分钟自测流程
面向第一次装本地模型的读者:量容量、挑档位、跑起来看速度,三步判断该用本地、混用还是直接走接口。
ガイド一覧 · 本文は主に簡体字中国語です。国際向けの要点は English summary をご利用ください。
三分钟判断
1. 量容量:显存 + 内存(统一内存只算一次,留约 4GB 给系统)。
2. 挑档位:代入 量化体积表,找出能全驻留的最高档。
3. 跑一次:用同一段提示词计时,看是「秒回」还是「每轮都读盘」。
三种结果怎么选
| 现象 | 结论 |
|---|---|
| 权重全在显存、秒回 | 本地够用 |
| 偶尔溢出、能接受 | 本地跑轻量任务,重任务走接口 |
| 频繁读盘、明显卡顿 | 降一档,或改用接口,见 本地与接口怎么算账 |
最低门槛
一块受支持的显卡、32GB 内存、一块快 NVMe SSD,配合激进量化即可起步;代价是速度。Apple Silicon 的统一内存支持仍属实验性,按「能跑但别指望满速」预期。
相关
本サイト専用ガイド · GrokHome 订阅站