极客前沿

Ollama 入门:本地运行 AI 模型,零成本上手

2026-07-27 01:32
DEV Ollama
查看原文

学会安装 Ollama,在本地运行 Llama、Qwen 等开源模型,无需云服务或 API 费用。

想玩 AI 但不想花钱买 API?Ollama 让你在本地电脑上免费运行各种大模型,比如 Llama、Qwen、DeepSeek 等。它完全免费,只需要电费和硬件。本文带你一步步安装并跑通第一个模型。

Tutorial Image

准备环境

  • Ollama 是一个工具,帮你下载和运行开源模型,所有计算都在你的电脑上完成,数据不会上传云端。
  • 你需要一台电脑,Windows、macOS 或 Linux 都可以,建议至少有 8GB 内存(运行 7B 大小模型的最低要求)。
  • 确保网络畅通,因为需要下载模型文件(约 4-8GB)。

安装步骤

  1. 打开浏览器,访问 Ollama 官网:ollama.com
  2. 点击“Download”按钮,选择对应你操作系统的版本下载。
  3. 下载完成后,双击安装包(Windows 是 .exe,macOS 是 .dmg),按提示完成安装。Linux 用户可以用命令行:curl -fsSL https://ollama.com/install.sh | sh
  4. 安装完成后,打开终端(Windows 用命令提示符或 PowerShell,mac 用终端应用)。
  5. 输入命令 ollama run llama3.2(这是 Meta 的 Llama 3.2 模型,8B 参数),按回车。Ollama 会自动下载模型并启动对话。
  6. 等待下载完成(视网速可能需要几分钟到半小时),之后你会看到提示符,可以直接输入问题,模型会回复你。

验证是否成功

  • 在终端里输入“Hello, who are you?”,如果模型用英文回答,说明安装成功。
  • Ctrl+D 或输入 /bye 退出对话。
  • 你也可以运行其他模型,比如 ollama run qwen2.5(阿里的 Qwen 2.5 模型,中文能力更强)。
  • 如果出现“command not found”错误,可能是安装路径没加入环境变量,重启终端或手动添加路径即可。

下一步可以做什么

  • ollama list 查看已下载的模型。
  • ollama pull 模型名 单独下载模型,不用立即运行。
  • 尝试在 Python 中调用 Ollama:安装 ollama Python 库(pip install ollama),然后用几行代码让模型回答问题。
  • 如果你的电脑配置较低,可以选 3B 或 1.5B 参数的小模型,比如 llama3.2:1b,速度更快。

现在你已经在本地拥有了一个免费、私密的 AI 助手。尽情探索吧!

内容来源

DEV Ollama

发布时间

2026-07-27 01:32

返回 AI技术