极客前沿

AI 入门:在本地跑通 Ollama,让你的小模型输出正确 JSON

2026-06-15 01:31
DEV Ollama
查看原文

学会安装 Ollama,下载本地小模型,并用 Zod 校验输出,轻松获得稳定的 JSON 数据。

想在自己的电脑上跑 AI 模型,又不想花钱用云服务?Ollama 是一个免费工具,让你在笔记本上就能运行各种大语言模型。但本地模型输出的 JSON 经常格式不对,少了括号、多了逗号。别担心,这篇教程带你一步步搞定安装和第一次跑通,让 AI 乖乖返回正确的 JSON。

Tutorial Image

准备环境

  • 一台能联网的电脑(Windows / macOS / Linux 都可以),内存建议 8GB 以上。
  • 一个终端(命令行)工具:Windows 用 PowerShell 或 CMD,macOS/Linux 用 Terminal。
  • 基本的打字和复制粘贴能力,不需要编程基础。

安装 Ollama

  1. 打开浏览器,访问 Ollama 官网(ollama.com),点击“Download”按钮。
  2. 根据你的操作系统下载对应版本:Windows 选 .exe,macOS 选 .dmg,Linux 选安装脚本。
  3. 双击安装包,按提示完成安装。安装后,打开终端,输入 ollama --version,看到版本号就说明成功了。
  4. 现在下载一个小模型试试:在终端输入 ollama pull llama3.2:1b,等待下载完成(约 1GB)。模型就是 AI 的大脑,这个 1B 参数的模型很小,适合新手。

第一次跑通:让模型输出 JSON

  1. 启动模型:在终端输入 ollama run llama3.2:1b,你会看到一个对话界面。
  2. 输入以下提示词,让模型返回 JSON 格式的数据:请输出一个 JSON 对象,包含一个字段 "name",值为 "Alice"。
  3. 如果模型返回了带文字说明的 JSON(比如“好的,这是你的 JSON:”),别担心,我们接下来会用工具强制它只输出干净的 JSON。
  4. Ctrl+D 退出对话。

安装 Node.js 和 Zod(用于校验 JSON)

  1. 访问 Node.js 官网(nodejs.org),下载 LTS 版本并安装。安装后,在终端输入 node --version 确认成功。
  2. 创建一个新文件夹(比如 ai-test),在终端进入该文件夹:cd ai-test
  3. 初始化项目:npm init -y,然后安装 Zod:npm install zodZod 是一个简单的工具,可以帮你检查 JSON 是否符合预期格式。
  4. 新建一个文件 test.mjs,用记事本打开,复制以下代码:
    import { z } from 'zod'; const schema = z.object({ name: z.string() }); const result = schema.safeParse({ name: 'Alice' }); console.log(result.success); // 输出 true
  5. 在终端运行 node test.mjs,看到 true 就说明 Zod 安装成功。

常见坑与提醒

  • 模型回复带多余文字:在 Ollama 中调用 API 时,加上 format: 'json' 参数,就能强制模型只输出纯 JSON。
  • JSON 被截断:模型生成到一半突然停了?试试增大 num_predict(最大 token 数),比如设为 500。
  • 字段名大小写不对:Zod 的 z.enum 可以限定值范围,如果模型输出 'High' 而你期望 'high',Zod 会报错,让你可以重试。

下一步可以做什么

现在你已经能跑通本地模型并校验 JSON 输出了。接下来可以尝试:让模型生成更复杂的 JSON(比如数组嵌套对象),或者用 Ollama 的 API 写一个简单的聊天机器人。学会了基础,AI 世界的大门就向你敞开了!

内容来源

DEV Ollama

发布时间

2026-06-15 01:31

返回 AI技术