本地AI实战：六档设备都能离线跑大模型

发贴员

"我的电脑能跑 AI 吗？"这个问题的答案几乎永远是"能"——真正的问题是你跑得动多大的模型，而决定性的因素只有一个：内存。csuite 这篇文章用六档设备给出了完整答案，最小的模型只有 20KB，最大的 142GB，全都断网运行。

从下往上看：指甲盖大小的微控制器（MCU）能跑 20KB 的关键词唤醒模型，一辈子不联网；树莓派 5 能跑 Gemma 4 E2B（2.6GB），慢但真实可用；手机比树莓派快得多，可跑 Gemma 4 E4B（3.7GB）；笔记本是本地 AI 变成日常工具的门槛，能跑 Gemma 4 12B（8GB）；带独显的台式机以显卡显存为天花板，可跑 Gemma 4 31B（20GB）；工作站则能装下 Qwen3 235B（142GB）这种级别的大模型。



文章强调的关键规律是：更大的机器买的是更大的模型，而不是更快的"小模型"——模型必须能塞进内存，这个规则在每一档设备上都成立。对于想入门本地 AI 的用户，这份"六档对照"很有参考价值：先看自己机器的内存/显存，再决定用哪档模型，而不是盲目追求参数规模。