AI 入门:从零搭建你的第一个本地大模型
学会安装 Ollama、下载模型、运行对话,亲手跑通第一个本地 AI 模型。
很多人想尝试 AI 模型,但被各种术语和安装过程吓住了。其实,在你自己电脑上跑一个能聊天的 AI 模型,比你想象的要简单。本文带你从零开始,一步步完成环境安装和第一次运行。
准备环境:你需要什么?
- 一台电脑(Windows / macOS / Linux 都可以)。
- 建议 8GB 以上内存,16GB 体验更流畅。
- 网络连接(下载模型需要几 GB 流量)。
不需要显卡也能跑,只是速度慢一点。我们用的工具叫 Ollama(一个让你在本地轻松运行大模型的免费软件),它会帮你处理所有复杂的事情。
安装步骤:下载并运行 Ollama
- 打开浏览器,访问 ollama.com(Ollama 官网)。
- 点击“Download”按钮,选择你的操作系统版本下载。
- 安装完成后,打开终端(Windows 叫命令提示符或 PowerShell,Mac 叫终端)。
- 输入
ollama run qwen2:0.5b并回车。这会自动下载一个轻量级模型(约 300MB)。 - 第一次下载需要几分钟,耐心等待。下载完成后,你会看到
>>>提示符,表示模型已经就绪。
常见坑提醒:如果下载速度很慢,可以尝试换个时间段或使用代理。另外,模型名称 qwen2:0.5b 中的 0.5b 表示模型大小,越小下载越快,但能力也越弱。
验证是否成功:和 AI 聊两句
在 >>> 后输入你的问题,比如“你好”,然后回车。稍等片刻,模型就会回复你。如果看到回复,恭喜你,你的第一个本地 AI 模型跑通了!
- 输入
/bye可以退出对话。 - 下次想再用,打开终端输入
ollama run qwen2:0.5b即可。
下一步可以做什么?
- 尝试其他模型:在 ollama.com/library 浏览更多模型,比如
llama3.2:1b、mistral:7b。用ollama run 模型名切换。 - 用代码调用:Ollama 提供 API,你可以用 Python 等语言写程序调用它。
- 了解模型许可证:不同模型有不同的使用规定,商用前务必查看官网说明。
现在,你已经迈出了 AI 入门的第一步。接下来,尽情探索吧!
内容来源
DEV Ollama
发布时间
2026-06-17 01:32