AI 入门:本地跑通 Gemma 模型,一步步安装与测试
零基础学会安装 Ollama,下载 Gemma 模型,并在本地运行第一个 AI 对话。
准备环境:你需要什么
要本地运行 AI 模型,你需要一台电脑。推荐配置:MacBook Pro(苹果笔记本)或 Windows/Linux 电脑 带独立显卡(NVIDIA 显卡显存 12GB 以上)。如果没有独立显卡,也可以运行,但速度会慢一些。另外,确保有至少 8GB 可用磁盘空间。
安装步骤
- 下载 Ollama:Ollama 是一个让你在本地运行大语言模型的免费工具。访问 ollama.com,点击“Download”按钮,选择你的操作系统(Mac、Windows 或 Linux),下载并安装。
- 打开终端:安装完成后,打开终端(Mac 叫“终端”,Windows 叫“命令提示符”或“PowerShell”)。
- 下载 Gemma 模型:在终端输入
ollama run gemma3:12b,按回车。Ollama 会自动下载约 8GB 的模型文件,这个过程可能需要几分钟到半小时,取决于你的网速。 - 等待下载完成:当终端显示“>>>”提示符时,说明模型已就绪,你可以开始对话了。
验证是否成功
在终端输入一句话,比如 你好,请介绍一下自己,然后按回车。如果模型回复了一段文字,恭喜你,安装成功!如果遇到错误,常见原因是磁盘空间不足或网络中断,可以检查磁盘空间后重试下载。
下一步可以做什么
- 尝试不同任务:比如让它写一封邮件、解释一段代码、或者总结一篇文章。
- 了解参数:Ollama 支持调整温度等参数,在终端输入
/set temperature 0.7可以控制回复的创造性。 - 探索更多模型:在 Ollama 模型库 中,你可以找到其他免费模型,比如 Llama 3、Mistral 等。
内容来源
DEV Ollama
发布时间
2026-06-05 01:35