极客前沿

Ollama 入门指南:本地运行大模型,超简单!

2026-06-18 01:32
DEV Ollama
查看原文

学会安装 Ollama,在本地跑通第一个大语言模型,告别云 API,保护隐私。

什么是 Ollama?

Ollama 是一个免费的开源工具,让你能在自己的电脑上运行大语言模型(比如 ChatGPT 背后的那种 AI)。不需要联网,数据全在本地,既快又保护隐私。你只需要一个命令行,就能下载模型并跟它对话。

Tutorial Image

安装步骤

  1. 下载 Ollama:去 ollama.com,点击对应你操作系统的安装包(Windows、macOS 或 Linux)。
  2. 运行安装程序:像装普通软件一样,一路“下一步”就行。装完后,Ollama 会在后台自动启动。
  3. 打开终端(或命令提示符):Windows 用户按 Win+R,输入 cmd 回车;Mac 用户打开“终端”应用。
  4. 下载一个模型:在终端输入 ollama pull llama3.2 并回车。这就会下载一个叫 Llama 3.2 的模型(大约 2GB,需要等几分钟)。
  5. 开始对话:输入 ollama run llama3.2,然后就可以打字跟 AI 聊天了!输入 /bye 退出。

验证是否成功

如果安装成功,你的终端应该能看到模型在回复你。例如,你问“你好”,它会回一句中文或英文。另外,Ollama 还会在本地开启一个服务(地址是 http://localhost:11434),你可以在浏览器打开这个地址测试 API。

下一步可以做什么

  • 换模型玩:用 ollama list 查看已下载的模型,用 ollama pull 模型名 下载其他模型(比如 qwen2.5 中文模型)。
  • 写代码调用:用 Python 或 JavaScript 通过 API 让程序自动跟模型对话。
  • 注意磁盘空间:每个模型几百 MB 到几 GB,别下太多。

内容来源

DEV Ollama

发布时间

2026-06-18 01:32

返回 AI技术