极客前沿

新手也能跑本地 AI:一步步装好 Ollama 并跑通第一个模型

2026-08-01 01:31
DEV Ollama
查看原文

零基础学会安装 Ollama、下载模型、用命令行跑通本地 AI 对话,并了解常见坑。

你是不是也听说过“AI PC”很厉害,结果买回来发现跑本地 AI 又卡又报错?别灰心,其实只要跟着下面几步,你也能在自己电脑上跑通第一个本地 AI 模型。我们以 Ollama 为例,它是最简单的本地 AI 运行工具,适合新手。

Tutorial Image

准备环境

  • Ollama:一个帮你下载和运行 AI 模型的免费工具,就像手机里的应用商店,但它是给 AI 模型用的。去官网 ollama.com 下载对应你系统的版本(Windows/Mac/Linux)。
  • 命令行:Windows 用 PowerShell 或 CMD,Mac 用终端(Terminal)。别怕,我们只用几个简单命令。
  • 检查内存:本地 AI 很吃内存,建议至少 8GB,16GB 更稳。查看方法:Windows 按 Ctrl+Shift+Esc 打开任务管理器,看“性能”里的“内存”;Mac 点左上角苹果图标,选“关于本机”。

安装 Ollama

  1. 下载安装包,双击运行,一路点“下一步”即可。
  2. 安装完成后,打开命令行,输入 ollama --version,如果显示版本号,就说明装好了。

下载并运行你的第一个模型

  1. 在命令行输入 ollama run llama3.2,它会自动下载一个适合新手的小模型(约 2GB),然后进入对话界面。
  2. 输入“你好”,回车,如果模型回复了,恭喜你,已经跑通了!
  3. 如果下载很慢,可以试试换用 qwen2.5:0.5b(一个更小的中文模型),下载更快。

验证是否成功 & 下一步

  • 成功标志:模型回复内容合理,速度能接受(每秒 10 个汉字左右就算正常)。如果特别慢,可能是内存不够或模型太大。
  • 常见坑:不要选太大的模型(比如 70B),你的电脑跑不动;下载时保持网络稳定。
  • 下一步:试试在 Python 里调用 Ollama(用 ollama pullollama run 的命令),或者用 LM Studio 之类的图形界面工具,体验更友好。

内容来源

DEV Ollama

发布时间

2026-08-01 01:31

返回 AI技术