极客前沿

AI入门:本地跑通Ollama嵌入模型(一步步安装与验证)

2026-08-04 01:33
DEV Ollama
查看原文

学会安装Ollama、拉取bge-m3模型,并写一个简单脚本完成本地文本嵌入,全程约10分钟。

想给本地文档做AI搜索,第一步要把文档变成AI能读的向量。这个操作叫嵌入(把文字变成一串数字,让AI能比较相似度)。本文用Ollama这个免费工具,带你一步步在电脑上跑通。

准备环境:装Ollama

Ollama是一个本地运行AI模型的工具,支持Mac、Windows、Linux。去官网下载对应版本,安装后打开终端,输入以下命令验证是否装好:

  1. 打开终端(Mac)或命令提示符(Windows)。
  2. 输入 ollama --version,看到版本号就成功了。

如果没显示,检查是否把Ollama加入系统路径,或重启终端。

安装模型:拉取bge-m3

bge-m3是一个开源嵌入模型,体积小,适合本地用。在终端输入:

Tutorial Image
ollama pull bge-m3

下载完成后,输入 ollama list 能看到它,就说明装好了。

第一次跑通:用Python发送嵌入请求

Ollama自带API,我们可以用Python调它。先安装Python(如果没装),然后写个脚本:

  1. 新建文件 embed_test.py,粘贴下面代码。
  2. your_text 换成你想嵌入的句子。
  3. 运行 python embed_test.py
import requests
url = "http://localhost:11434/api/embed"
data = {"model": "bge-m3", "input": "你的文本"}
res = requests.post(url, json=data)
print(res.json()["embeddings"][0][:5])

如果看到一串数字,说明嵌入成功!

常见坑与下一步

第一次跑,可能遇到两个问题:

  • 连接失败:先确认Ollama在运行(终端输入 ollama serve)。
  • 文本太长报错:嵌入模型有长度限制,超长要截断或分段,别一次塞太多。

现在你已经会本地嵌入文本了。下一步可以试试把多篇文档批量嵌入,存到向量数据库,做一个简单的本地搜索。Ollama官网有更多模型和API文档,跟着学就行。

内容来源

DEV Ollama

发布时间

2026-08-04 01:33

返回 AI技术