Ollama 本地大模型入门教程:在自己电脑上跑 AI

不想用云端 API?Ollama 让你在自己电脑上运行大模型,完全离线,数据不出本机。

什么是 Ollama?

Ollama 是一个本地大模型运行工具,支持一键下载和运行各种开源模型。

快速体验(3 步搞定)

第一步: 官网 https://ollama.com/ 下载安装

第二步: 打开终端或命令行

第三步: 运行模型,例如:ollama run qwen3

首次运行会自动下载模型文件,之后就可以直接对话了。

推荐模型

模型 大小 适合场景 最低配置
Qwen3 4.7GB 中文对话 8GB 内存
Llama3 4.7GB 英文通用 8GB 内存
DeepSeek-V3 8.9GB 代码生成 16GB 内存
Phi-4 2.5GB 轻量级 4GB 内存

基本命令

  • ollama list - 查看已下载的模型
  • ollama pull 模型名 - 下载模型
  • ollama run 模型名 - 运行模型
  • ollama rm 模型名 - 删除模型

Ollama 最大优势是隐私安全,所有数据本地处理。缺点是受硬件限制。


相关文章:

Qwen3 中文效果不错

本地跑模型太爽了,完全不用担心隐私

8GB 内存够用吗

Mac M 系列芯片跑 Ollama 体验很好

8GB 内存能跑 7B 模型吗?还是至少要 16GB

本地跑模型终于不用担心隐私问题了

推荐用 qwen2.5:7b,中文效果不错

在 M1 Mac 上跑 qwen2.5:7b 体验很好,中文回答质量出乎意料

云服务账单月底看一眼,别莫名其妙被扣钱

JSON Schema描述参数挺清楚