# 本地跑大模型：Ollama 十分钟上手

## 文章信息

- 分类：AI 教程
- 发布时间：2026-09-25
- 阅读量：315
- 网页版：https://nav.bie.cc/ollama-guide.html

## 正文

想在本地离线用大模型，Ollama 是最省事的方案：装好、拉模型、开会话，三步搞定。

### 准备工作

- 内存建议 16G 起步，独显 8G 显存能舒服跑 7B-14B 量化模型。

- 纯 CPU 也能跑小模型，但速度会明显慢。

### 三步跑起来

- 到官网下载安装包，安装后终端执行 `ollama -v` 确认成功。

- 拉模型：`ollama run qwen2.5:7b`（中文任务建议选通义或 DeepSeek 系列）。

- 直接对话；输入 `/bye` 退出。

### 常用命令

- `ollama list`：看已下载模型

- `ollama pull <模型>`：下载/更新

- `ollama rm <模型>`：删除释放空间

### 想要图形界面

配 Open WebUI 或 LM Studio，就有类似 ChatGPT 的网页端；也可以把 Ollama 当本地 API 用，端口默认 11434，让脚本或其它工具调用。

### 注意

本地模型的知识面受训练数据限制，遇到「最新的、小圈子的事实」容易编。要查信息仍得用联网工具。

本文为编辑整理，命令以当前版本为准，升级后可能变化。

## 相关文章

- [AI 绘画提示词怎么写：主体 + 风格 + 构图 + 画质](https://nav.bie.cc/ai-image-prompt.html)
- [结构化提示词模板：角色 + 任务 + 约束 + 示例](https://nav.bie.cc/prompt-template.html)
- [提示词入门：把需求说清楚的 7 个技巧](https://nav.bie.cc/prompt-basics.html)
- [用扣子/Coze 搭一个自己的智能体](https://nav.bie.cc/coze-agent-guide.html)
- [AI 语音与配音：从文字到成品音频](https://nav.bie.cc/ai-voice-guide.html)
- [用 AI 写周报、邮件和方案的通用套路](https://nav.bie.cc/ai-writing-work.html)
- [用 AI 读论文、读长文档的正确姿势](https://nav.bie.cc/ai-read-paper.html)
- [AI 做 PPT 全流程：从大纲到成稿](https://nav.bie.cc/ai-ppt-workflow.html)

---
本页 Markdown：https://nav.bie.cc/post-67.md
来源：沐辰导航 https://nav.bie.cc/