极客前沿

入门指南:用 Ollama 在电脑上跑 AI 模型

2026-08-03 01:31
DEV Ollama
查看原文

一步步教你安装 Ollama、下载模型、运行第一个 AI 对话,并了解 Docker 替代方案。

想在自己的电脑上体验 AI 对话,又不想花钱买服务器?Ollama 就是帮你实现这个愿望的工具。它像一个“AI 模型管家”,你只需要敲几行命令,它就能帮你下载、启动和运行各种开源 AI 模型,比如 Llama、Mistral 等。本文带你从零开始,一步步装好 Ollama,并成功运行你的第一个 AI 模型。

准备环境:你需要什么?

  • 一台电脑:Windows、macOS 或 Linux 都可以,配置越好跑得越快。
  • 网络连接:需要下载 Ollama 和模型文件。
  • 命令行工具:Windows 用 PowerShell 或 CMD,macOS/Linux 用终端。

命令行 就是一个让你用文字指令操作电脑的窗口,别怕,你只需要照着输入命令即可。

Tutorial Image

安装步骤:三步搞定

  1. 下载 Ollama:打开官网 ollama.com,点击下载对应你操作系统的安装包。Windows 用户下载 .exe,macOS 用户下载 .zip,Linux 用户可以用脚本安装。
  2. 安装 Ollama:双击安装包,一路点击“下一步”即可。安装完成后,打开命令行,输入 ollama --version,如果能显示版本号,说明安装成功。
  3. 下载并运行一个模型:在命令行输入 ollama run llama3.2,Ollama 会自动下载 Llama 3.2 模型(约 2GB),下载完成后直接进入对话界面,你就可以开始和 AI 聊天了!

如果下载速度慢,可以试试 ollama run llama3.2 --verbose 查看详细过程,或者换一个更小的模型,比如 ollama run tinyllama(约 600MB),更适合入门。

验证是否成功:和 AI 聊两句

当命令行出现 >>> 提示符时,输入 你好,AI 会回复你。如果回复正常,恭喜你,你已经成功在本地运行了 AI 模型!输入 /bye 可以退出。

下一步可以做什么?

  • 试试更多模型:在 Ollama 模型库 里浏览其他模型,用 ollama pull 模型名 下载。
  • 了解 Docker 版:如果你已经在用 Docker,可以试试 Docker Model Runner,它可以把模型打包成容器镜像,更方便管理。但如果你只是入门,Ollama 更简单直接。

现在,你已经掌握了用 Ollama 在电脑上运行 AI 模型的基本技能。接下来,你可以探索如何将它接入 Python、聊天应用,甚至打造自己的 AI 助手。享受 AI 的乐趣吧!

内容来源

DEV Ollama

发布时间

2026-08-03 01:31

返回 AI技术