公司内部资料往往被锁在各类文档与数据库中。外部大模型无法直接访问，导致专业问题回答不精准。为解决这一痛点，我搭建了一个全栈 RAG内部知识库程序。

项目痛点回顾

• 内部资料无法公开，外部大模型无效。
• 成本高这方面。在线模型 token 消耗快，频繁调用费用昂贵。
• 说到性能瓶颈。上传文档速度不敏感，但答案生成需要极低延迟。
• 技术栈选择困扰：Python 开发环境成熟，但性能不足；Go 开发速度快，却缺少成熟 AI 框架。
• 前端开发者面临 AI 写代码压缩影响：AI 能快速生成前端代码。但对细节把控不足，需要人工修正。

程序整体架构

整个项目分为五个主要模块。建立完整的 RAG 流程：

1. 本地 Ollama 大模型服务
2. 上传文档并向量化
3. 答案生成
4. 前端交互界面
5. 向量数据库

1️⃣ 本地 Ollama 大模型服务

使用本地部署的 Ollama 能显著减少成本，并避免 Docker 在 macOS 上性能瓶颈。再看主要模型，

• ——文档向量化引擎。
• ——检索后文本生成回答引擎。

2️⃣ 上传文档并向量化

将上传功能拆成单独 Python 项目。原因如下：

• AIOps 与数据科学环境更成熟，依赖丰富。
• 上传过程对实时性要求低，可用慢速语言实现。 我个人偏好 Go；但 Python 在 AI 场景已成事实标准。

至于主要实现思路，

1. 接收多种文件格式。
2. 利用 LangChain 的 Chunking 与 Embedding Pipeline，将文本切分并投射到 Qwen Embedding 模型得到向量。
3. 存入 Milvus 向量数据库，附带元数据方便检索。不过，

3️⃣ 答案生成

Go 的 Gin 框架提供高并发、低延迟接口。非常适合实时回答需求，目录结构示例这方面，

/app
├── main.go // 路由入口
├── handler
│ ├── query.go // 接收使用者提问
│ └── answer.go // 调用检索 + LLM
├── service
│ ├── retriever.go // Milvus 检索封装
│ └── generator.go // Qwen 文本生成
└── config.yaml // 参数设置文件

工作流程的观点是。

1. 使用者提交问题 → 路由处理。
2. 调用检索服务从 Milvus 获取 Top‑N 向量对应文本片段。
3. 将检索结果拼接成 Prompt，并送入 Qwen‑generation 模型产生答案。
4. 返回精炼答案给前端展示。

4️⃣ 前端交互界面

单独拆出 Vue 3 项目便于后期移植至 Electron 或移动端，同时保持前后端解耦。再看主要页面包含，

• /chat.vue: 聊天窗口、输入框、历史记录展示。
• /upload.vue: 文档上传 & 状态监控页面。
• /admin.vue: 管理员设置与统计视图。

由于 AI 对前端代码质量的压缩作用。我在项目中保留手写模板，以保证可维护性与可 性；不过，也演示了如何在 Vue 项目中集成实时提示和错误捕获机制。以减少人工修正成本，其实，

使用 Docker Compose 一键启动完整环境，支持多节点部署与可视化管理：

version: '1'
services:
从etcd来看，container_name: milvus-etcd
至于image，quay.io/coreos/etcd:v3.5.7
environment:
- ETCD_AUTO_COMPACTION_MODE=revision
- ETCD_AUTO_COMPACTION_RETENTION=30m
- ETCD_QUOTA_BACKEND_BYTES=107374182400
- ETCD_SNAPSHOT_COUNT=1000000
volumes:
- ./volumes/etcd:/etcd
再看minio，container_name: milvus-minio
从image来看。minio/minio:RELEASE.2024-06-01T14-00-00Z
environment:
MINIO_ACCESS_KEY:minioadmin
MINIO_SECRET_KEY:minioadmin
standalone:
container_name :milvus-standalone
image :milvusdb/milvus:v1.13-娱乐a
command:
depends_on :
说到etcd，condition :service_healthy
minio :
condition :service_healthy
networks :
milvus-network :
driver :bridge

="" AWS/OpenAI 在线模型成本过高 → 本地 Ollama 节约费用且更易控制隐私安全。
• Mysql/SQLite 等传统关系数据库难以满足高频大规模向量检索 → Milvus 专为向量搜索调整。
• go 与 python 双栈方案 → 性能与环境兼顾；Go 专注推理，高吞吐，Python 专注嵌套 pipeline 与实验验证。
• Vue + Electron 跨网站包装 → 前端团队可以在桌面应用中快速迭代而不影响后端逻辑。
• AI 编程工具 的局限性：虽能加速编码，却仍需人工审核特别是业务逻辑细节和安全审计层面。