工具站大全 › AI 软件大全 › llama.cpp官方下载
llama.cpp官方下载(免费)
llama.cpp 是用 C/C++ 编写的开源大模型推理引擎,GGUF 格式就来自这里,Ollama、LM Studio 等工具底层都用到它,适合开发者和追求极致性能的用户。 下面是 llama.cpp 官方下载地址、价格说明和使用教程。
本站不提供安装包,只给出核对过的官方链接(2026 年 11 月核对)。
| 开发者 | ggml-org(开源) |
|---|---|
| 类型 | 本地大模型 |
| 价格 | 开源免费。开源免费(MIT)。 |
| 系统 / 平台 | Windows、macOS、Linux、Android |
| 官方网址 | github.com |
主要功能
- GGUF 模型量化与推理
- llama-server 提供 OpenAI 兼容 API 和网页界面
- 支持 CUDA、Metal、Vulkan、ROCm 等加速
- CPU / GPU 混合推理
配置要求(参考,以官网为准)
| 小模型 1.5B—4B | 8GB 内存即可,CPU 也能跑 |
|---|---|
| 7B—9B 模型(4bit) | 约 6—8GB 显存或 16GB 内存(Apple 芯片统一内存) |
| 14B—32B 模型(4bit) | 约 12—24GB 显存或 32GB 以上统一内存 |
| 70B 模型(4bit) | 约 40GB 以上显存或 64GB 以上统一内存 |
防骗提醒:llama.cpp的官方网址是 github.com。搜索结果里的「llama.cpp破解版」「免费会员版」「高速下载器」以及仿冒官网、代充、共享账号,常带病毒、盗号程序或骗钱陷阱。官方本身就能免费使用,任何要求先付费才能下载的都不是官方渠道。
llama.cpp下载和使用步骤
- 打开 llama.cpp 的官方 GitHub 页面,在右侧「Releases」里找到最新版本。
- 按你的系统下载对应安装包(Windows 一般是 .exe / .msi / .zip,Mac 是 .dmg / .zip);也可以按 README 里的命令安装。
- 首次在 Mac 上打开提示「无法验证开发者」时,到「系统设置 → 隐私与安全性」点「仍要打开」。
llama.cpp官方下载常见问题
- llama.cpp是免费的吗?
- 开源免费。开源免费(MIT)。价格和额度会调整,以官网公布为准。
- llama.cpp支持哪些系统?
- Windows、macOS、Linux、Android。
- 怎么确认下载的是官方正版?
- 认准官方网址 github.com(或官方 GitHub 仓库),不要通过第三方「下载站」「高速下载」获取安装包;安装后在软件「关于」里核对开发者信息。