免费大模型显存需求计算器
想用 Ollama、LM Studio 本地跑大模型，先算算显存够不够。免费、即时，结果为估算值。
模型结构（高级，影响 KV 缓存）
估算总显存：
估算公式：权重 = 参数量 × 位数 ÷ 8；KV 缓存 = 2 × 层数 × 上下文 × 隐藏维度 ÷ KV 头比例 × 2 字节 × 并发；另加约 10% 和 0.5GB 运行开销。实际占用随推理框架、量化方式和模型结构变化。
怎么用大模型显存需求计算器
- 选择常见模型大小，或直接填写参数量（例如 DeepSeek-R1 蒸馏 8B 填 8）。
- 选择量化精度（Ollama 默认多为 Q4_K_M），填写上下文长度和并发数。
- 查看估算总显存，以及常见显卡和 Mac 能否完整运行。
大模型显存需求计算器常见问题
- 这个工具免费吗？
- 完全免费。大模型显存需求计算器不收费、不限次数、不用注册登录，也没有水印。
- 8GB 显存能跑什么模型？
- Q4 量化下可以流畅运行 7B—8B 模型（上下文 8K 左右）；14B 模型需要部分卸载到内存，速度会变慢。
- Mac 跑大模型怎么算？
- Apple 芯片使用统一内存，macOS 默认约 2/3—3/4 可分配给 GPU，32GB 的 Mac 大约能跑 Q4 量化的 32B 模型。
- MoE 模型怎么算？
- MoE 模型虽然每次只激活部分参数，但通常需要把全部参数加载进显存或内存，按总参数量估算。