Ollama 入门指南:本地运行大模型,超简单!
学会安装 Ollama,在本地跑通第一个大语言模型,告别云 API,保护隐私。
什么是 Ollama?
Ollama 是一个免费的开源工具,让你能在自己的电脑上运行大语言模型(比如 ChatGPT 背后的那种 AI)。不需要联网,数据全在本地,既快又保护隐私。你只需要一个命令行,就能下载模型并跟它对话。
安装步骤
- 下载 Ollama:去 ollama.com,点击对应你操作系统的安装包(Windows、macOS 或 Linux)。
- 运行安装程序:像装普通软件一样,一路“下一步”就行。装完后,Ollama 会在后台自动启动。
- 打开终端(或命令提示符):Windows 用户按 Win+R,输入 cmd 回车;Mac 用户打开“终端”应用。
- 下载一个模型:在终端输入
ollama pull llama3.2并回车。这就会下载一个叫 Llama 3.2 的模型(大约 2GB,需要等几分钟)。 - 开始对话:输入
ollama run llama3.2,然后就可以打字跟 AI 聊天了!输入/bye退出。
验证是否成功
如果安装成功,你的终端应该能看到模型在回复你。例如,你问“你好”,它会回一句中文或英文。另外,Ollama 还会在本地开启一个服务(地址是 http://localhost:11434),你可以在浏览器打开这个地址测试 API。
下一步可以做什么
- 换模型玩:用
ollama list查看已下载的模型,用ollama pull 模型名下载其他模型(比如qwen2.5中文模型)。 - 写代码调用:用 Python 或 JavaScript 通过 API 让程序自动跟模型对话。
- 注意磁盘空间:每个模型几百 MB 到几 GB,别下太多。
内容来源
DEV Ollama
发布时间
2026-06-18 01:32