Ollama简介随着人工智能技术的快速发展大型语言模型LLM已成为自然语言处理领域的重要工具。然而这类模型的运行通常需要大量计算资源并伴随复杂的部署流程。为解决这一难题Ollama 应运而生——一个高效的开源工具专注于在本地环境中简化 LLM 的部署与运行。用户只需通过简单的安装指令即可一键运行 Llama 2 等开源大模型无需繁琐配置。Ollama 大幅降低了本地使用大型语言模型的门槛让开发者与研究者能够更便捷地发挥 LLM 的能力。2 Windows下Ollama的安装2.1 下载安装OllamaOllama主页https://ollama.com/download/ 支持macOS, Linux 和 Windows 系统如果是macOS、Linux系统直接安装使用即可如果是Windows需要按照以下教程进行安装使用点击下载按钮获取OllamaSetup.exe安装程序。双击安装文件点击「Install」开始安装。目前的Ollama会默认安装到C盘路径如下C:\Users\%username%\AppData\Local\Programs\Ollama并不会让用户自定义选择安装路径。安装完成后会在电脑右下角出现Ollama图标2.2 环境配置更改模型下载位置模型默认下载到C盘所以可以点击Settings进行自定义路径的设置这里是在D盘自定义了文件夹可以根据自己的电脑情况进行选择2.3 下载模型打开Ollama聊天对话框选在自己想下载的模型注意模型越大电脑要求越高运行7B至少需要8GB显存运行13B至少需要16G显存如果没有GPU默认加载CPU如果有默认加载GPU如果默认的模型中不符合你的需求可以在find model输入框中输入 模型名称首次执行会从模型库中下载模型所需时间取决于你的网速和模型大小。2.4 使用模型等待下载模型完成后就可以在聊天界面中使用了3 Windows 安装 Ollama 常见问题FAQ3.1 安装后提示ollama命令找不到command not found现象终端里输入ollama -v/ollama run xxx提示“不是内部或外部命令”。原因Ollama 的可执行文件未加入 PATH或终端未重启导致环境变量未刷新。解决先重启 PowerShell/CMD必要时重启电脑。默认安装路径通常在C:\Users\%username%\AppData\Local\Programs\Ollama。打开“系统环境变量”检查Path是否包含上述目录如果没有就手动添加然后重新打开终端再试。也可以直接在安装目录里找到ollama.exe双击启动一次再回到终端执行命令。3.2 无法打开本地服务http://localhost:11434访问失败现象浏览器访问http://localhost:11434或调用 API 时报连接失败。原因Ollama 服务未启动、端口被占用、或被防火墙拦截.解决先确认服务是否启动检查右下角托盘是否有 Ollama 图标没有就手动启动 Ollama。检查端口占用若11434被其他程序占用先关闭占用程序再重试.检查防火墙Windows Defender 防火墙可能会拦截本地服务允许 Ollama 或允许11434端口访问.3.3 安装程序无法选择安装目录Windows 默认装 C 盘现象安装时没有自定义路径选项.说明当前版本 Windows 安装器通常默认安装到用户目录下你文中提到的路径.建议安装目录改不了时优先把“大头”——模型文件目录改到其他盘你在 2.2 已配置.同时注意 C 盘至少留出一定空间用于应用更新与缓存.3.4 模型下载很慢 / 一直卡在 pulling现象下载模型进度很慢或者长时间不动.常见原因网络不稳定、公司网络/校园网限制、未配置代理、镜像源受限.解决思路尽量换更稳定的网络手机热点有时反而更快.若你处在需要代理的环境优先确保系统代理/终端代理配置正确不同系统设置方式不同.先用小模型验证流程如qwen2.5:1.5b你文中也推荐了.磁盘空间不足也会导致下载失败确保模型盘有足够空间通常至少预留模型体积的 1.5 倍空间更稳.3.5 下载模型时报权限问题 / 写入失败现象提示无法写入、permission denied、目录不可用等.原因模型目录设置到无权限位置、移动硬盘断连、或安全软件拦截.解决将模型目录设置为当前用户有完全读写权限的路径如D:\OllamaModels.避免把模型目录放到需要管理员权限的系统目录.Windows 下检查杀毒软件/“受控文件夹访问”必要时将 Ollama 加入白名单.3.6 运行大模型很慢 / 内存爆了 / 直接闪退现象输出特别慢、系统卡顿、甚至程序崩溃.原因模型参数量过大超出 CPU/GPU 能力或内存/显存容量.解决优先选择更小的模型1.5B/3B/7B或更轻量的量化版本如Q4、Q5.不带独显时尽量不要直接跑 13B/32B 这类模型.关闭其他占用内存/显存的程序浏览器、IDE、游戏等.3.7 有 GPU 但没有用上 / 仍然在跑 CPU现象任务管理器/nvidia-smi看不到明显 GPU 占用.原因显卡/驱动不匹配、模型尺寸或量化策略不适合 GPU、或系统环境未满足.排查建议Windows NVIDIA确认驱动版本正常、nvidia-smi可用.选择更适合你显存的模型大小显存不足时可能会回退到 CPU 或频繁交换导致更慢.尝试先用小模型验证 GPU 是否工作再逐步增大.3.8 端口被占用11434 already in use现象启动服务时报端口占用.原因旧的 Ollama 进程未退出或其他应用占用了11434.解决先退出托盘中的 Ollama再重新启动.关闭占用端口的进程后再试.3.9 Windows 安装时被 SmartScreen/杀毒软件拦截现象运行安装包时提示“Windows 已保护你的电脑”、被杀毒软件隔离或无法启动.原因SmartScreen 或安全软件对未知/新发布程序的保护策略.解决确保安装包来自官网https://ollama.com/download/.在 SmartScreen 提示页点击“更多信息”选择“仍要运行”.若被杀毒软件拦截将OllamaSetup.exe或安装目录加入白名单后重试.3.10 托盘图标不显示 / 重启后服务没有自动启动现象安装完成后右下角没有 Ollama 图标或重启电脑后需要手动打开才能用.原因Ollama 未在后台运行或被系统/安全软件禁止自启动.解决在开始菜单搜索Ollama并启动确认托盘出现图标后再使用.打开“任务管理器 - 启动应用”检查是否存在 Ollama 的启动项若被禁用就启用.若你使用了第三方安全软件检查其“启动保护/自启动管理”是否拦截了 Ollama.