新手也能跑本地 AI:一步步装好 Ollama 并跑通第一个模型
零基础学会安装 Ollama、下载模型、用命令行跑通本地 AI 对话,并了解常见坑。
你是不是也听说过“AI PC”很厉害,结果买回来发现跑本地 AI 又卡又报错?别灰心,其实只要跟着下面几步,你也能在自己电脑上跑通第一个本地 AI 模型。我们以 Ollama 为例,它是最简单的本地 AI 运行工具,适合新手。
准备环境
- Ollama:一个帮你下载和运行 AI 模型的免费工具,就像手机里的应用商店,但它是给 AI 模型用的。去官网 ollama.com 下载对应你系统的版本(Windows/Mac/Linux)。
- 命令行:Windows 用 PowerShell 或 CMD,Mac 用终端(Terminal)。别怕,我们只用几个简单命令。
- 检查内存:本地 AI 很吃内存,建议至少 8GB,16GB 更稳。查看方法:Windows 按 Ctrl+Shift+Esc 打开任务管理器,看“性能”里的“内存”;Mac 点左上角苹果图标,选“关于本机”。
安装 Ollama
- 下载安装包,双击运行,一路点“下一步”即可。
- 安装完成后,打开命令行,输入
ollama --version,如果显示版本号,就说明装好了。
下载并运行你的第一个模型
- 在命令行输入
ollama run llama3.2,它会自动下载一个适合新手的小模型(约 2GB),然后进入对话界面。 - 输入“你好”,回车,如果模型回复了,恭喜你,已经跑通了!
- 如果下载很慢,可以试试换用
qwen2.5:0.5b(一个更小的中文模型),下载更快。
验证是否成功 & 下一步
- 成功标志:模型回复内容合理,速度能接受(每秒 10 个汉字左右就算正常)。如果特别慢,可能是内存不够或模型太大。
- 常见坑:不要选太大的模型(比如 70B),你的电脑跑不动;下载时保持网络稳定。
- 下一步:试试在 Python 里调用 Ollama(用
ollama pull和ollama run的命令),或者用 LM Studio 之类的图形界面工具,体验更友好。
内容来源
DEV Ollama
发布时间
2026-08-01 01:31