极客前沿

本地 AI 入门:一步步装好 Ollama 并跑通第一个模型

2026-08-02 01:33
DEV Ollama
查看原文

从零开始,教你下载安装 Ollama、拉取模型、用命令行对话,并跑通第一个本地 AI 程序。

想在本机跑一个 AI 模型,又不想花钱买 API?Ollama 就是一个帮你省事的工具,它能把模型下载到你的电脑上,让你在本地直接跟 AI 聊天。这篇教程带你一步步装好它,并跑通第一个模型。

1. 准备环境

你只需要一台能上网的电脑(Windows、Mac、Linux 都行),不需要多高配置,但最好有 8GB 内存。另外,准备好一个终端(Windows 用 PowerShell,Mac 用 Terminal),后面所有命令都在里面输入。

Tutorial Image

2. 安装步骤

  1. 打开浏览器,访问 Ollama 官网(ollama.com),点“Download”下载对应你系统的安装包。
  2. 双击安装,一路点“下一步”就行,装完不用管。
  3. 打开终端,输入 ollama --version,如果能显示版本号,说明安装成功。
  4. 输入 ollama run qwen2.5:7b,这会自动下载一个 70 亿参数的模型(约 4.7GB),等它下载完。
  5. 下载完会自动进入对话界面,你随便输入一句话,比如“你好”,看它怎么回答。

第一次下载可能有点慢,但之后再用就快了。

3. 验证是否成功

如果刚才模型能回复你,恭喜,你的本地 AI 已经能用了。你还可以在终端输入 ollama list 查看已经装好的模型列表,或者输入 ollama pull llama3 再拉一个别的模型试试。

4. 下一步可以做什么

你可以用 Ollama 的 API(也就是让程序调用模型)写个小脚本,比如让 AI 帮你生成标题、总结文章。想深入的话,可以试着用 Python 连接它,网上搜“ollama python”就有很多例子。记住,本地模型能力有限,别指望它做太复杂的推理,但日常聊天、写文案已经足够。

内容来源

DEV Ollama

发布时间

2026-08-02 01:33

返回 AI技术