本地部署 AI 大模型保姆级教程:Ollama 安装、模型下载与终端实战全流程
前言最近我在本地部署大模型时选择了 Ollama。Ollama 的优点是安装简单、命令清晰、模型管理方便非常适合新手快速体验本地大语言模型。但是我在安装过程中踩了一个很典型的坑我明明把 Ollama 安装到了 E 盘结果模型还是下载到了 C 盘。所以这篇文章不仅会讲 Ollama 怎么安装、怎么运行模型还会重点讲清楚Ollama 软件安装位置怎么改模型下载位置怎么改为什么模型会默认进 C 盘如何把 Ollama 加入 Path如何检查模型是否真的下载成功如果你也不想让大模型占满 C 盘这篇文章建议认真看完。一、Ollama 是什么Ollama 是一个可以在本地运行大语言模型的工具。简单来说Ollama 就像是一个“本地大模型运行器”。它可以帮我们下载模型、管理模型并在本地电脑上运行模型。安装好 Ollama 后我们只需要通过几条命令就可以在终端里和 Qwen、Llama、DeepSeek 等开源大模型进行对话。通过 Ollama我们可以在自己的电脑上运行很多开源模型例如 Qwen、Llama、DeepSeek、Gemma、Mistral、Phi 等。本地运行大模型的好处是数据更私密不依赖在线 API下载完成后可以本地运行适合学习大模型部署和调用可以接入 Python、Java、前端项目等应用二、下载 Ollama 安装包Ollama 官网地址https://ollama.com进入官网后根据自己的系统下载对应版本。我这里使用的是 Windows 版本。三、把 Ollama 软件安装到 E 盘默认情况下Ollama 会安装到用户目录。如果你不想安装到 C 盘可以手动指定安装目录。我这里的目标安装目录是E:\ollama先在 E 盘创建一个文件夹E:\ollama建议路径不要使用中文避免后续出现奇怪的问题。然后把下载好的安装包放到这个目录里例如E:\ollama\OllamaSetup.exe在文件资源管理器地址栏输入cmd回车后会直接在当前目录打开命令行窗口。然后执行OllamaSetup.exe /DIRE:\ollama如果路径中有空格建议加双引号OllamaSetup.exe /DIRE:\ollama等待安装程序启动并完成安装即可。四、重要避坑安装目录不等于模型目录这是我踩过的坑也是这篇文章最想提醒大家的地方。很多人以为执行了OllamaSetup.exe /DIRE:\ollama就代表 Ollama 下载的大模型也会保存到E:\ollama其实不是。这个命令只改变了 Ollama 软件本体的安装位置。也就是说/DIRE:\ollama控制的是 Ollama 程序安装在哪里。但是大模型默认仍然可能下载到C:\Users\你的用户名\.ollama\models例如我的电脑上就是C:\Users\21376\.ollama\models这个目录下面通常会有两个文件夹blobs manifests其中blobs 存放模型的大文件 manifests 存放模型索引信息如果只看到 blobs但是 manifests 是空的那么 ollama list 可能识别不到模型。五、把模型保存位置改到 E 盘如果不想让模型下载到 C 盘需要设置环境变量OLLAMA_MODELS例如我希望模型统一保存到E:\ollama\models先创建目录mkdir E:\ollama\models然后执行setx OLLAMA_MODELS E:\ollama\models执行完成后关闭当前 CMD 窗口重新打开一个新的 CMD。验证环境变量是否生效echo %OLLAMA_MODELS%如果输出E:\ollama\models说明配置成功。注意如果 Ollama 已经在后台运行需要退出右下角托盘里的 Ollama然后重新启动 Ollama。否则它可能还在使用旧配置。六、把 Ollama 加入系统 Path我安装到 E 盘后还遇到了另一个问题。在 C:\Users\用户名 下执行ollama list提示ollama 不是内部或外部命令也不是可运行的程序或批处理文件。这说明 Windows 找不到 ollama.exe也就是 Ollama 没有加入 Path。临时解决方法是直接使用完整路径E:\ollama\ollama.exe list或者E:\ollama\ollama.exe run qwen2.5:1.5b但这样每次都要写完整路径比较麻烦。推荐永久解决方式此电脑 - 属性 - 高级系统设置 - 环境变量找到用户变量或系统变量中的Path点击编辑新增一项E:\ollama保存后关闭 CMD重新打开。验证ollama --version如果能看到版本号说明配置成功。以后就可以在任意目录执行ollama list ollama run qwen2.5:1.5b七、下载并运行 Qwen 模型配置好模型目录和 Path 后就可以运行模型了。例如运行 Qwen2.5 1.5Bollama run qwen2.5:1.5b第一次运行时如果本地没有这个模型Ollama 会自动下载。终端中会看到类似信息pulling manifest pulling 183715c43589: 100% 986 MB verifying sha256 digest writing manifest success看到 success 就表示模型下载完成。随后会进入对话模式 Send a message可以输入你好请介绍一下你自己退出对话/bye八、查看已下载模型查看当前 Ollama 能识别到的模型ollama list如果模型下载成功会看到类似NAME ID SIZE MODIFIED qwen2.5:1.5b xxxxxxxx 986 MB ...如果只显示表头NAME ID SIZE MODIFIED说明当前 Ollama 模型目录里没有可识别的模型。这时要检查当前模型目录echo %OLLAMA_MODELS%确认当前模型目录是不是你想要的路径。如果没有配置 OLLAMA_MODELS模型默认可能会保存在C:\Users\你的用户名\.ollama\models九、常用 Ollama 命令查看模型列表ollama list运行模型ollama run qwen2.5:1.5b只下载模型不进入对话ollama pull qwen2.5:1.5b删除模型ollama rm qwen2.5:1.5b查看正在运行的模型ollama ps查看模型信息ollama show qwen2.5:1.5b查看 Ollama 版本ollama --version十、我踩过的坑总结1. 在 E 盘运行命令不代表模型下载到 E 盘例如E:\ollamaollama run qwen2.5:1.5b这只能说明当前命令是在 E:\ollama 目录执行的。模型到底保存在哪里取决于OLLAMA_MODELS如果没有配置默认可能还是 C 盘用户目录。2. 软件安装位置和模型保存位置是两回事OllamaSetup.exe /DIRE:\ollama控制软件安装位置。OLLAMA_MODELSE:\ollama\models控制模型保存位置。Path 加入 E:\ollama控制能不能在任意目录使用 ollama 命令。这三个概念一定要分清楚。3. ModelScope 下载的模型不能直接当作 Ollama 模型运行我之前在 E 盘有一个目录E:\qwen2.5\Qwen2.5-0.5B-Instruct这个大概率是通过 ModelScope 下载的原始模型文件。但是我运行的是ollama run qwen2.5:1.5b这两个不是同一个东西。Ollama 下载的是它自己管理的模型格式和索引结构通常在models\blobs models\manifests所以即使你本地有 ModelScope 下载的模型Ollama 也不会自动识别成qwen2.5:1.5b十一、推荐新手选择什么模型如果电脑配置一般建议先从小模型开始。例如ollama run qwen2.5:0.5b ollama run qwen2.5:1.5b ollama run llama3.2:1b ollama run deepseek-r1:1.5b如果内存较大可以尝试ollama run qwen2.5:7b ollama run llama3.1:8b简单理解0.5B / 1.5B占用较小适合新手测试 7B / 8B效果更好但更吃内存和显卡 14B 以上配置要求更高新手建议先跑通小模型再尝试大模型。十二、完整推荐流程如果你想把 Ollama 和模型都放到 E 盘可以按照下面流程来1. 创建安装目录mkdir E:\ollama2. 安装 Ollama 到 E 盘进入安装包所在目录后执行OllamaSetup.exe /DIRE:\ollama3. 创建模型目录mkdir E:\ollama\models4. 设置模型目录环境变量setx OLLAMA_MODELS E:\ollama\models5. 把 E:\ollama 加入 Path环境变量 Path 中新增E:\ollama6. 重新打开 CMD 验证echo %OLLAMA_MODELS% ollama --version7. 下载并运行模型ollama run qwen2.5:1.5b8. 查看模型ollama list十三、最后总结Ollama 是一个非常适合新手学习本地大模型部署的工具。安装简单命令清晰下载模型后就可以直接在本地对话。但是在 Windows 上使用时一定要注意三个路径问题1. /DIRE:\ollama 控制 Ollama 软件安装位置 2. OLLAMA_MODELSE:\ollama\models 控制模型下载和保存位置 3. Path 添加 E:\ollama 控制能不能在任意目录使用 ollama 命令如果你不想让模型占满 C 盘千万不要只改 /DIR一定要同时配置setx OLLAMA_MODELS E:\ollama\models这就是我本次安装 Ollama 最大的经验教训。希望这篇文章能帮你少踩坑顺利跑通自己的第一个本地大模型。