Ollama 入门:本地运行 AI 模型,零成本上手
学会安装 Ollama,在本地运行 Llama、Qwen 等开源模型,无需云服务或 API 费用。
想玩 AI 但不想花钱买 API?Ollama 让你在本地电脑上免费运行各种大模型,比如 Llama、Qwen、DeepSeek 等。它完全免费,只需要电费和硬件。本文带你一步步安装并跑通第一个模型。
准备环境
- Ollama 是一个工具,帮你下载和运行开源模型,所有计算都在你的电脑上完成,数据不会上传云端。
- 你需要一台电脑,Windows、macOS 或 Linux 都可以,建议至少有 8GB 内存(运行 7B 大小模型的最低要求)。
- 确保网络畅通,因为需要下载模型文件(约 4-8GB)。
安装步骤
- 打开浏览器,访问 Ollama 官网:ollama.com。
- 点击“Download”按钮,选择对应你操作系统的版本下载。
- 下载完成后,双击安装包(Windows 是 .exe,macOS 是 .dmg),按提示完成安装。Linux 用户可以用命令行:
curl -fsSL https://ollama.com/install.sh | sh。 - 安装完成后,打开终端(Windows 用命令提示符或 PowerShell,mac 用终端应用)。
- 输入命令
ollama run llama3.2(这是 Meta 的 Llama 3.2 模型,8B 参数),按回车。Ollama 会自动下载模型并启动对话。 - 等待下载完成(视网速可能需要几分钟到半小时),之后你会看到提示符,可以直接输入问题,模型会回复你。
验证是否成功
- 在终端里输入“Hello, who are you?”,如果模型用英文回答,说明安装成功。
- 按
Ctrl+D或输入/bye退出对话。 - 你也可以运行其他模型,比如
ollama run qwen2.5(阿里的 Qwen 2.5 模型,中文能力更强)。 - 如果出现“command not found”错误,可能是安装路径没加入环境变量,重启终端或手动添加路径即可。
下一步可以做什么
- 用
ollama list查看已下载的模型。 - 用
ollama pull 模型名单独下载模型,不用立即运行。 - 尝试在 Python 中调用 Ollama:安装
ollamaPython 库(pip install ollama),然后用几行代码让模型回答问题。 - 如果你的电脑配置较低,可以选 3B 或 1.5B 参数的小模型,比如
llama3.2:1b,速度更快。
现在你已经在本地拥有了一个免费、私密的 AI 助手。尽情探索吧!
内容来源
DEV Ollama
发布时间
2026-07-27 01:32