AI入门:本地跑通Ollama嵌入模型(一步步安装与验证)
学会安装Ollama、拉取bge-m3模型,并写一个简单脚本完成本地文本嵌入,全程约10分钟。
想给本地文档做AI搜索,第一步要把文档变成AI能读的向量。这个操作叫嵌入(把文字变成一串数字,让AI能比较相似度)。本文用Ollama这个免费工具,带你一步步在电脑上跑通。
准备环境:装Ollama
Ollama是一个本地运行AI模型的工具,支持Mac、Windows、Linux。去官网下载对应版本,安装后打开终端,输入以下命令验证是否装好:
- 打开终端(Mac)或命令提示符(Windows)。
- 输入
ollama --version,看到版本号就成功了。
如果没显示,检查是否把Ollama加入系统路径,或重启终端。
安装模型:拉取bge-m3
bge-m3是一个开源嵌入模型,体积小,适合本地用。在终端输入:
ollama pull bge-m3下载完成后,输入 ollama list 能看到它,就说明装好了。
第一次跑通:用Python发送嵌入请求
Ollama自带API,我们可以用Python调它。先安装Python(如果没装),然后写个脚本:
- 新建文件
embed_test.py,粘贴下面代码。 - 把
your_text换成你想嵌入的句子。 - 运行
python embed_test.py。
import requests
url = "http://localhost:11434/api/embed"
data = {"model": "bge-m3", "input": "你的文本"}
res = requests.post(url, json=data)
print(res.json()["embeddings"][0][:5])如果看到一串数字,说明嵌入成功!
常见坑与下一步
第一次跑,可能遇到两个问题:
- 连接失败:先确认Ollama在运行(终端输入
ollama serve)。 - 文本太长报错:嵌入模型有长度限制,超长要截断或分段,别一次塞太多。
现在你已经会本地嵌入文本了。下一步可以试试把多篇文档批量嵌入,存到向量数据库,做一个简单的本地搜索。Ollama官网有更多模型和API文档,跟着学就行。
内容来源
DEV Ollama
发布时间
2026-08-04 01:33