说起「本地」的大模型，hen多人第一反应是「硬件不够」或「配置太复杂」。其实只要把 Ollama 当成一把钥匙，配合几行代码，就Neng让你的笔记本瞬间变成 AI 小实验室。下面我把从下载安装到实际调用的每一步dou拆开讲，帮助你从零开始搭建属于自己的离线 AI 环境。

Ollama 与传统云服务Zui大的差别就在于「数据永远不离开你的机器」——所有请求、所有回答dou在本地完成。这样既保障了隐私，又省掉了网络卡顿的烦恼。它把开源的大语言模型包装成一个轻量级的服务，只要有基本的 CPU 或 GPU，就Neng直接运行。

离线可用：只要模型Yi经下载完毕，即使断网也Neng正常对话。

跨平台：支持 macOS、Windows 与 Linux，安装方式几乎相同。

即插即用：提供标准的 RESTful 接口，前端、后端甚至移动端douNeng无缝接入。

可自定义：通过 Modelfile Ke以在Yi有模型上加层系统提示，实现专属角色。

下面以 macOS 为例，其余系统只需把对应的安装包换成 Windows 或 Linux 版即可。

# 下载安装脚本
curl -fsSL https://ollama.com/install.sh | sh
# 检查是否成功
ollama --version

执行完后你会在菜单栏kan到一个小鲸鱼图标——它正悄悄在后台跑着一个 HTTP 服务，默认监听 http://127.0.0.1:11434。

Ru果你想在浏览器里直接调用 Ollama API，需要打开跨域访问。Zui简单的办法是给环境变量 OLLAMA_ORIGINS 赋值为星号，然后重新启动服务：

OLLAMA_ORIGINS=* ollama serve

此时用浏览器访问 http://127.0.0.1:11434/health Nengkan到返回的 JSON，说明服务器Yi经准备就绪。

Ollama 自带一个简易的仓库，你Ke以直接搜索想要的模型名称。例如我想玩一下 8B 参数量的 Qwen 模型：

ollama pull qwen3:8b
# 或者直接运行，它会自动下载
ollama run qwen3:8b

提示：Ru果显存紧张，Ke以先尝试 3B~7B 的小型号；Ru果机器配备了兼容的 NVIDIA GPU，Ollama 会自动使用显卡加速，大幅提升响应速度。

想让模型充当「代码审查机器人」？只需要写一份类似 Dockerfile 的 Modelfile，然后创建新模型：

# 保存为 Modelfile
FROM llama3
SYSTEM """
你是一名经验丰富的代码审查专家，只给出关键问题和改进建议，不Zuo冗余解释。
"""
PARAMETER temperature 0.2
PARAMETER num_ctx 8192
# 创建自定义模型
ollama create code-reviewer -f ./Modelfile

Create 成功后你就Ke以像普通模型一样使用它了：

ollama run code-reviewer
> 请检查下面这段 JavaScript 是否存在潜在 bug：
function foo {
  return arr.map;
}

// file: demo-node.js
async function main {
  const resp = await fetch('http://127.0.0.1:11434/api/chat', {
    method: 'POST',
    headers: { 'Content-Type': 'application/json' },
    body: JSON.stringify({
      model: 'qwen3:8b',
      messages: ,
      stream: false   // 一次性返回完整答案
    })
  });
  if  {
    console.error;
    return;
  }
  const data = await resp.json;
  console.log;
}
main;

运行 即可kan到一句温柔的小诗——无需任何额外依赖，因为 Node Yi经内置了 fetch。

import requests, json
payload = {
    "model": "qwen3:8b",
    "messages": ,
    "stream": False
}
r = requests.post
print)

curl http://127.0.0.1:11434/api/chat \
 -H "Content-Type: application/json" \
 -d '{
   "model":"qwen3:8b",
   "messages":,
   "stream":false
 }'

payload = {
    "model": "qwen3:8b",
    "messages": ,
    "stream":False,
}
r = requests.post
return r.json