极客前沿

一步步上手:用 Python + Ollama 搭建本地 AI 工具

2026-06-08 01:32
DEV Ollama
查看原文

从零开始,学会安装 Python、Ollama,并运行第一个本地 AI 程序,无需云服务。

准备环境

开始前,你需要安装两样东西:Python(一种编程语言,用来写脚本)和 Ollama(一个让你在电脑上运行 AI 模型的工具,免费且隐私安全)。

  • 下载 Python:访问 python.org,点击下载按钮,安装时记得勾选“Add Python to PATH”。
  • 下载 Ollama:访问 ollama.ai,根据系统下载对应版本,安装后打开终端(Windows 搜索 cmd,Mac 搜索终端)。

安装步骤

  1. 安装 Ollama 后,在终端输入 ollama pull llama3.2 并回车。这会下载一个轻量 AI 模型(约 3GB),耐心等待。
  2. 测试 Ollama:输入 ollama run llama3.2,看到提示后打一句“你好”,如果 AI 回复了,说明成功。
  3. 安装 Python 库:在终端输入 pip install requests 安装网络请求库。

写第一个程序

新建一个文本文件,命名为 test.py,用记事本打开,输入以下内容:

Tutorial Image
import requests

url = "http://localhost:11434/api/generate"
data = {"model": "llama3.2", "prompt": "用中文说一句关于编程的话"}
response = requests.post(url, json=data)
print(response.json()["response"])

保存后,在终端进入文件所在目录(比如 cd Desktop),运行 python test.py。如果看到 AI 回复的中文句子,你就成功跑通了本地 AI!

下一步可以做什么

现在你可以尝试修改 prompt(提示词),让 AI 做更多事,比如写总结、翻译句子。Ollama 还支持其他模型,如 mistral,用 ollama pull mistral 下载后换掉代码中的模型名即可。注意:本地运行速度比云服务慢,但完全免费且数据不外传。

内容来源

DEV Ollama

发布时间

2026-06-08 01:32

返回 AI技术