AI 入门:在本地跑通 Ollama,让你的小模型输出正确 JSON
学会安装 Ollama,下载本地小模型,并用 Zod 校验输出,轻松获得稳定的 JSON 数据。
想在自己的电脑上跑 AI 模型,又不想花钱用云服务?Ollama 是一个免费工具,让你在笔记本上就能运行各种大语言模型。但本地模型输出的 JSON 经常格式不对,少了括号、多了逗号。别担心,这篇教程带你一步步搞定安装和第一次跑通,让 AI 乖乖返回正确的 JSON。
准备环境
- 一台能联网的电脑(Windows / macOS / Linux 都可以),内存建议 8GB 以上。
- 一个终端(命令行)工具:Windows 用 PowerShell 或 CMD,macOS/Linux 用 Terminal。
- 基本的打字和复制粘贴能力,不需要编程基础。
安装 Ollama
- 打开浏览器,访问 Ollama 官网(ollama.com),点击“Download”按钮。
- 根据你的操作系统下载对应版本:Windows 选 .exe,macOS 选 .dmg,Linux 选安装脚本。
- 双击安装包,按提示完成安装。安装后,打开终端,输入
ollama --version,看到版本号就说明成功了。 - 现在下载一个小模型试试:在终端输入
ollama pull llama3.2:1b,等待下载完成(约 1GB)。模型就是 AI 的大脑,这个 1B 参数的模型很小,适合新手。
第一次跑通:让模型输出 JSON
- 启动模型:在终端输入
ollama run llama3.2:1b,你会看到一个对话界面。 - 输入以下提示词,让模型返回 JSON 格式的数据:
请输出一个 JSON 对象,包含一个字段 "name",值为 "Alice"。 - 如果模型返回了带文字说明的 JSON(比如“好的,这是你的 JSON:”),别担心,我们接下来会用工具强制它只输出干净的 JSON。
- 按
Ctrl+D退出对话。
安装 Node.js 和 Zod(用于校验 JSON)
- 访问 Node.js 官网(nodejs.org),下载 LTS 版本并安装。安装后,在终端输入
node --version确认成功。 - 创建一个新文件夹(比如
ai-test),在终端进入该文件夹:cd ai-test。 - 初始化项目:
npm init -y,然后安装 Zod:npm install zod。Zod 是一个简单的工具,可以帮你检查 JSON 是否符合预期格式。 - 新建一个文件
test.mjs,用记事本打开,复制以下代码:import { z } from 'zod'; const schema = z.object({ name: z.string() }); const result = schema.safeParse({ name: 'Alice' }); console.log(result.success); // 输出 true - 在终端运行
node test.mjs,看到true就说明 Zod 安装成功。
常见坑与提醒
- 模型回复带多余文字:在 Ollama 中调用 API 时,加上
format: 'json'参数,就能强制模型只输出纯 JSON。 - JSON 被截断:模型生成到一半突然停了?试试增大
num_predict(最大 token 数),比如设为 500。 - 字段名大小写不对:Zod 的
z.enum可以限定值范围,如果模型输出 'High' 而你期望 'high',Zod 会报错,让你可以重试。
下一步可以做什么
现在你已经能跑通本地模型并校验 JSON 输出了。接下来可以尝试:让模型生成更复杂的 JSON(比如数组嵌套对象),或者用 Ollama 的 API 写一个简单的聊天机器人。学会了基础,AI 世界的大门就向你敞开了!
内容来源
DEV Ollama
发布时间
2026-06-15 01:31