Ollama下载后怎么用？新手第一步操作

综合交流大区
, , ,
1

刚从官网把Ollama下载好了，但是打开之后完全不知道接下来该干什么……

界面上什么都没有，也没有聊天框，就一个图标在系统托盘里。

请问：

  1. ollama下载完怎么打开？是要用命令行吗？
  2. ollama怎么运行模型？第一个模型应该下哪个？
  3. 有没有图形界面可以用？不太会命令行操作
  4. 日常使用有什么基础操作需要知道的？

完全零基础的小白，求手把手教程，越详细越好！

2

要用命令行，模型下载也需要命令

1 个赞
3

别慌，Ollama确实是命令行工具，没有自带图形界面，但操作其实很简单。

第一步：确认Ollama已启动
安装后Ollama会自动运行后台服务，你在系统托盘看到图标就说明已经启动了。

第二步：打开终端

  • Windows: 按 Win+R，输入 cmd 回车
  • Mac: 打开「终端」应用
  • Linux: Ctrl+Alt+T

第三步：下载你的第一个模型

ollama pull qwen2:7b

这会下载通义千问2的7B版本，大约4-5GB，中文效果不错，适合新手入门。

第四步：开始对话

ollama run qwen2:7b

然后就可以直接打字聊天了！输入你的问题，按回车，等模型回答。

退出对话： 输入 /bye 或按 Ctrl+D

就这四步，你就已经在本地跑起了大模型！

1 个赞
4

补充一些常用命令，建议收藏：

# 查看已下载的模型
ollama list

# 下载模型
ollama pull 模型名

# 运行模型（直接进入对话）
ollama run 模型名

# 删除模型（释放硬盘空间）
ollama rm 模型名

# 查看模型详细信息
ollama show 模型名

# 查看Ollama版本
ollama --version

# 查看正在运行的模型
ollama ps

新手推荐的模型：

  • qwen2:7b — 中文最强的开源模型之一，日常对话首选
  • llama3:8b — Meta出品，英文能力强
  • gemma2:2b — 超小模型，低配电脑也能跑

选模型看你的硬件：有独显就上7B/8B的，没独显选2B-3B的先体验一下。

5

不想用命令行的话，可以装一个图形界面前端，推荐Open WebUI：

安装方法（需要先装Docker）：

docker run -d -p 3000:8080   --add-host=host.docker.internal:host-gateway   -v open-webui:/app/backend/data   --name open-webui   --restart always   ghcr.io/open-webui/open-webui:main

装完后浏览器打开 http://localhost:3000，就有了类似ChatGPT的网页聊天界面。

Open WebUI的好处：

  • 可视化的聊天界面，支持多轮对话
  • 可以管理多个模型，一键切换
  • 支持上传文档做简单问答
  • 聊天记录自动保存

如果Docker也不会装，可以先用命令行体验一下，命令行其实也就那几个命令，很快就上手了。

6

分享几个新手容易踩的坑和小技巧：

1. 下载卡住了？ 可能是网络问题，Ollama模型托管在国外服务器。可以设置代理或者找国内镜像源。

2. 回复速度很慢？ 检查是不是在用CPU推理。如果有NVIDIA显卡，确保安装了CUDA驱动，Ollama会自动使用GPU加速。

3. 内存不够？ 7B模型大约需要8G内存/显存。如果内存不足，试试量化版本：

ollama pull qwen2:7b-q4_0  # 更小的量化版本

4. 多行输入？ 在对话中按三个双引号 """ 开始多行模式，再按 """ 结束。

5. 设置系统提示词？ 创建Modelfile自定义角色：

FROM qwen2:7b
SYSTEM "你是一个专业的写作助手，帮助用户润色和优化中文文章。"

然后 ollama create my-writer -f Modelfile

这些掌握了，日常使用基本没问题了。

1 个赞
7

如果觉得装Ollama、装Docker、配Open WebUI这些步骤太复杂，可以先试试当贝Molili。

Molili底层可以接Ollama作为模型后端，但它自带了完整的图形界面和聊天功能，不需要你搞命令行和Docker。对新手来说：

  • 安装即用，不用折腾命令行
  • 自带Skill插件，写作、翻译、摘要等功能开箱即用
  • 如果以后学会了Ollama，可以把Molili连上你本地的Ollama，利用本地算力
  • Token消耗也比直接用OpenClaw低不少

当然Ollama还是值得学的，掌握命令行操作对以后深入使用AI很有帮助。两个可以并行，Molili先用着，Ollama慢慢学。

8

太棒了！照着一楼的教程试了，成功跑起来了qwen2，第一次在本地和AI对话，感觉好神奇！

回复速度还行，大概每秒能出十几个字（我有张3060显卡）。

接下来准备：

  1. 装个Open WebUI，命令行用着还是不太方便
  2. 再试试codellama写代码
  3. 研究一下Modelfile自定义角色

也去看看大家说的Molili，感谢所有回复的大佬们！