使用教程

Ollama 怎么用?本地跑开源模型的完整步骤 — Learntide

上手就三条命令:装好、拉模型、开聊。真正卡人的是档位选错,显存不够时它会慢到没法用。

ollama怎么用是本文的核心主题,下面详细介绍如何使用。

Ollama 怎么用:先搞清它到底管什么

配图1安装与路径设置

Ollama 怎么用,其实比多数人想得简单。它把开源模型的下载、加载、运行这三件事包在一起,你不用管权重格式,也不用手动配依赖。

它在本机起一个服务,模型跑在你自己的机器上。断网能用,资料不出本机。很多人选它,就图这一条。

代价也清楚。速度取决于你的显卡,效果取决于你能装下多大的模型。它替代不了在线旗舰,只是多一个不上传数据的选项。

安装:三个系统各自的装法

配图2下载模型与量化档位

Ollama 安装教程网上一大堆,核心其实就一步。

Windows 和 macOS 直接下官方安装包,双击装完即可。Linux 跑一行脚本。装完在终端敲版本号,有回显就算成了。

curl -fsSL https://ollama.com/install.sh | sh
ollama --version
setx OLLAMA_MODELS "D:\ollama\models"

有一步很多人漏掉:改存储路径。模型默认落在系统盘,几个模型下来十几个 G 是常态。装之前先把路径挪到空间大的盘,省得后面搬家。

装完它会常驻后台。不想让它开机自启,去系统的启动项里关掉就行。

Ollama 怎么下载模型:档位比名字重要

配图3常用命令与本地接口

拉模型只要一条命令,真正要看的是冒号后面那串。

ollama pull qwen2.5:7b                    # 拉一个 7B 中文模型
ollama run  qwen2.5:7b                    # 没拉过会自动先拉,然后直接开聊
ollama pull qwen2.5:7b-instruct-q4_K_M    # 指定量化档位

冒号后面标的是参数量和量化档。同一个模型,7b 和 14b 差着一倍多显存,q4 和 q8 又差将近一倍。参数量决定它有多聪明,量化档决定它占多少显存。

新手的稳妥路线是从 7B 的 q4 档起步。跑顺了、显存还有富余,再往上加一档。反过来先拉最大的,多半是下载半小时、加载三分钟、跑起来一秒蹦两个字。

模型名怎么挑?中文任务优先国产开源模型,语料对得上,问出来的中文自然得多。英文和代码任务,社区微调版本的选择更多。

Ollama 常用命令:这几条日常够用

配图4三个卡点与避坑

记住六条,九成场景都能应付。

ollama list                # 看本机装了哪些模型
ollama ps                  # 看现在哪个模型占着显存
ollama rm   qwen2.5:7b     # 删掉不用的模型腾空间
服务起来之后有个本地接口,端口是固定的。很多图形前端、笔记插件、浏览器扩展只要填这个地址就能直连,不用再改配置。

> 补充:ollama怎么用的详细用法可参考上文步骤。

> 补充:ollama怎么用的详细用法可参考上文步骤。

> 补充:ollama怎么用的详细用法可参考上文步骤。

想让它更好用,可以自己写一份模型配置,把系统提示词和采样参数固化进去。之后每次调用都带着这套设定,省得反复交代。


**关于ollama怎么用**,建议结合实操理解,多看多试。


---

## 三个卡点,和别踩的坑

下载慢是最高频的问题。断点续传是支持的,中断了重新执行同一条 pull 会接着下,不会从头来。实在慢就换个网络环境再试。

A: 掌握 ollama怎么用 的关键在于多实践,建议先跑通基础流程再逐步深入。

**Q: ollama怎么用 免费吗?**
A: 大多数工具提供基础免费额度,具体以官网当前说明为准。

ollama怎么用的最佳实践见上文详细步骤,别错过核心要点。

![尾图核心要点回顾](../assets/figures/ollama-beginner-tutorial/05-ollama-beginner-tutorial.jpg)

本文信息核对于 2026-08-08。AI 产品的价格、免费额度与功能变动频繁,实际以各工具官网当前说明为准。