首页教程中心Ollama 本地 AI 模型部署入门:在自己的电脑上运行大模型
🖥️
🛠️ 工具教程
🛠️ 工具教程进阶

Ollama 本地 AI 模型部署入门:在自己的电脑上运行大模型

用 Ollama 在本地电脑上一键运行 Llama、Qwen、DeepSeek 等开源大模型,无需 GPU 也能用

20 分钟 5 个步骤2026-09-12
分享:

1安装 Ollama

Ollama 的安装非常简单: **macOS:** 从 ollama.com 下载 macOS 版 DMG 安装包,拖入 Applications 即可。 **Windows:** 下载 Windows 预览版安装包,直接安装。Ollama 会自动配置环境变量。 **Linux:** ```bash curl -fsSL https://ollama.com/install.sh | sh ``` 安装完成后在终端运行 `ollama --version` 确认安装成功。 💡 无需 GPU,CPU 也能运行小模型(如 Qwen2.5 1.5B/7B、Llama 3.2 3B)。

小贴士

  • 首次下载模型需要较好的网络环境,建议使用代理或夜间下载
  • Ollama 模型存储在 ~/.ollama/models/ 目录,可软链到其他盘释放系统盘空间
  • CPU 运行速度:7B 模型约 5-15 tokens/秒,70B 模型约 1-3 tokens/秒(建议 GPU)
  • Ollama 支持并行加载多个模型,显存/内存够大即可同时运行
  • 用 `ollama run` 进入对话后,输入 `/?` 可查看所有内置命令
1 / 5

📖 相关使用指南

💡 相关解决方案

⚖️ 工具对比