一、 前言

本文将介绍怎样从零搭建一个私有AI助手，采用Open WebUI、Ollama和Docker进行部署。 闹乌龙。 我们将一步一步地介绍怎样安装和配置各个组件，以及怎样在本地周边环境中运行它们。

二、 安装Open WebUI

我直接好家伙。 Open WebUI是基于Web的前端框架，用于管理和展示模型的交互界面。我们能够采用以下命令安装Open WebUI：

bash docker pull /open-webui/open-webui:main

三、 安装Ollama

Ollama是用于管理较大语言模型的引擎，它能够协助我们迅速启动和管理较大模型。 我直接起飞。 在本文中， 我们将采用以下命令安装Ollama：

说白了就是... bash docker pull ollama/ollama:latest

四、编写周边环境变量配置文件

在 /opt/ai-tools 目录下创建 .env 文件，并填入以下内容：

makefile COMPOSE_PROJECT_不结盟E=ai-tools OPEN_WEBUI_PORT=3000 OLLAMA_PORT=11434 NGINX_HTTP_PORT=80 NGINX_HTTPS_PORT=443 TZ=Asia/Shanghai WEBUI_SECRET_KEY=please_change_this_secret_key，实际上...

五、编写 Docker Compose 配置文件

在 /opt/ai-tools 目录下创建 docker-compose.yml 文件，并填入以下内容：

yml version: "3.9" services: ollama: image: ollama/ollama:latest containername: ai-ollama restart: unless-stopped ports: - "${OLLAMAPORT}:11434" volumes: - ./data/ollama:/root/.ollama environment: - TZ=${TZ} open-webui: image: /open-webui/open-webui:main containername: ai-open-webui restart: unless-stopped dependson: - ollama ports: - "${OPENWEBUIPORT}:8080" volumes: - ./data/open-webui:/app/bac 有啥说啥... kend/data environment: - TZ=${TZ} - OLLAMABASEURL=http://ollama:11434 - WEBUISECRETKEY=${WEBUISECRETKEY} nginx: image: nginx:1.25-alpine containername: ai-nginx restart: unless-stopped dependson: - open-webui ports: - "${NGINXHTTPPORT}:80" - "${NGINXHTTPSPORT}:443" volumes: - ./nginx/:/etc/nginx/ - ./nginx/certs:/etc/nginx/certs/ environment: - TZ=${TZ} networks: ai-network: driver: bridge

六、部署服务

采用以下命令启动服务：

试试水。 bash docker compose up -d --build --force-recreate --remove-orphans --abort-on-container-exit --no-deps --no-color

七、访问 AI 工具平台

访问 http://你的服务器IP:${OPEN_WEBUI_PORT} 即可进入 AI 工具平台，这也行？。

八、 测试模型

测试模型有没有可用，输入以下命令：

bash docker exec -it ai-ollama bash，客观地说...

这是可以说的吗？ 输入 ollama run qwen2.5:7b 以测试 Qwen2.5 模型。

九下载并运行较大模型

拉取较大模型，如 Qwen2.5 7B：

十一备份数据

生成备份压缩包并上传到崭新服务器：

躺平... bash tar xzvf /opt/ai-tools/docker- cd /opt/ tar czvf ai-tools-backup-$.tar.gz ./ scp /opt/ai-tools/docker-/ root@崭新的服务器IP:/tmp/ cd /tmp/ tar xzvf docker- cp docker-/ . rm docker- cd - cp docker-/ ./ rm docker- cd - cd . rm /tmp/docker- cd - echo 'ok' 进入 Ollама 容器后用 OLLAMAPULLPULL_MODEL 来拉取一个名为 qwen2.5 的七亿参数的预训练的较大语言模型。 如果你的机器性能够强较大,还能够尝试拉取更更多更较大的预训练语言模型,比如 llama3.1 或 deepseek-r1 等等。 这一些预训练语言模型都支持中文,都能输出中文的回答最终还是结果是。

那么,这里我们的工作岗位就基本完成了,我们已经成功地把一个 AI 助手系统成功部署到了你的机器上面了!

你当前能够随便试验一下当前这个系统了!

奥利给！ 如果你遇到了问题或者需要协助,请发送 email 到 我们会尽迅速回复你!