RAG技术的五阶段演进

RAG技术的演进，本质上是一个"信息策展能力逐步提高"的过程。每一个新阶段都不是否定前一阶段，而是在前一阶段的基础上增加新的能力维度。理解这个演进历程，不仅是为了知道"历史"。更是为了理解"为什么2026年的RAG要这样设计"。说起来，

说到第一代。Naive RAG — 向量相似度检索

时代背景： 2023年初，ChatGPT引爆了LLM应用热潮。公司迫不及待地想要将LLM应用于自己的业务场景，但立即撞上了一堵墙——模型不知道公司的内部知识。GPT-4的训练数据截止于2021年，对于公司内部的文档、产品规格、历史案例一无所知。向量数据库在这一年迅速成熟，提供了RAG所需的基础设施。怎么说呢，

主要架构： Naive RAG直截了当。包含三步：索引、检索、生成。

┌──────────┐ ┌──────────┐ ┌──────────┐
│ 文档库 │ ──→ │ 向量数据库 │ ──→ │ LLM │
└──────────┘ └──────────┘ └──────────┘
① 分块+嵌入 ② 相似度检索 ③ 拼接+生成

具体流程：

1. 索引阶段： 将所有文档切分成固定大小块，用嵌入模型将每块转化为向量并存入向量数据库。
2. 检索阶段： 使用者查询 → 嵌入向量化 → 在向量数据库中执行相似度检索 → 返回Top-K最相似块。
3. 生成阶段： 将检索到的块拼接在提示词中。再加上程序指令和使用者查询，一起发给LLM生成回答。

Naive RAG解决了什么问题？

它解决了“模型不知道公司知识”的最基础问题。在Naive RAG之前，要么微调模型，要么手动塞进提示词。Naive RAG提供了低成本、可 方案。

从痛点一来看。碎片化信息导致回答不完整

• 固定大小分块导致概念被切断，缺少完整语境。
• 使用者常遇到答案模糊、不连贯的问题。

再看痛点二。精度不足导致误导性答案

• 纯向量检索只能找到语义相似内容，却不一定包含答案。
• User often receives irrelevant or partially correct responses.

痛点三的观点是，无状态管理限制多步推理

• No memory across turns;cannot chain queries.

痛点四的观点是，统一策略导致效率低下

• Simplistic top-K fixed for all queries leads to wasted compute on simple tasks.

再看第二代。Advanced RAG — 重排序、分块调整、元数据过滤

时代背景： 2024年，公司把RAG从demo推向生产，发现精度远不能满足需求。不过，LangChain和LlamaIndex等框架快速迭代。为Advanced RAG奠定基础。

关键改进：

1. 重排序: 先用Bi-encoder快速筛选Top-N。接下来用Cross-encoder精排返回最优Top-K，实现速度与精度平衡。怎么说呢，
2. 查询重写: /分解查询；HyDE让LLM预想理想文档再检索，提高匹配率。
3. 混合检索: 结合关键词检索提高对专有名词/错误码等精准匹配。
4. 分块调整: 语义分块/层次分块/元根据数据调整，使得信息完整且定位精准。

痛点五的观点是。单次检索仍然缺乏自适应性与多轮支持

# 第三代：Modular RAG — 查询路由、多索引协同、自适应检索

时代背景：* 公司知识库规模与复杂度继续增长，一个典型公司拥有技术文档库、FAQ库、内部Wiki、案例库等多种类型。 不同类型需要不同策略，Modular RAG 的主要思想是根据问题类型动态选择策略和目标。

• 查询路由
\t\t\t
\t\t\t\t
• 意图分类
\t\t\t\t
• 复杂度分类
\t\t\t\t
• 领域分类 "

• 多指数协同 : 文本→向量。结构化→关键词,知识图谱→图,代码文件→树。

• 自适应检索 ：先判断“能否直接回答”，若能则跳过检索；否则触发针对性的搜索，

痛点六 * 单次搜索无法满足需要“A → B → C”多跳推理需求。

---

# 第四代：Graph‑enhanced RAG —— 微软 GraphRAG 与 LightRAG

时代背景 微软开源 GraphRAG。将知识图谱引入 RAG 流程，从语义空间 到图空间关系推理。

为什么需要 Graph‑Rag？

传统 RAG 在处理全局性问题时结构性缺陷——只能看到局部片段，却难以归纳趋势或跨文档关联。

微软 Graph‑Rag 主要机制

1️⃣ 实体与关系提取 – 从每篇文档提取实体及其关系 2️⃣ 知识图谱建立 – 所有实体共享同一全局图 3️⃣ 社区检测 – 利用 Leiden 等算法识别主题簇 4️⃣ 社区摘要生成 – 用 LLM 对每个社区做宏观概述 5️⃣ 双模式检索 - 局部搜索针对具体问题精准匹配实体邻居片段 - 全局搜索匹配社区摘要进行宏观归纳

对比维度	局部搜索	全局搜索
问题类型	操作细节	趋势分析 /
检索对象	实体 + 邻居	社区摘要
输出方式	精确段落	宏观概览

Light‑Rag 简化版

• 合并实体提取 & 关系分析步骤
• 增量更新。仅同步变更节点
• 放弃社区检测，使用轻量级图查询

痛点七

* 对简单事实查询无比较大的优势；* 图建立成本高，不适合频繁更新；* 无多轮推理能力，

---

# 第五代：Agentic Rag — 自主规划、工具调用、多步推理

时代背景

AI Agent 的兴起推动 Agentic Rag 的诞生。Agent 架构主要为 “Think–Act–Observe” 循环，在此框架下形成多轮决策式检索与生成流程。老实说，

与前代区别

前几代都是一次性检索 → 一次性生成；Agentic Rag 则是循环： 1) 思考需要的信息 2) 检索并获取信息 3) 分析是否足够或矛盾 4) 决策继续或完成

主要能力

1️⃣ 自主规划 – 为复杂任务制定动态步骤计划。

2️⃣ 工具调用 – 除常规文本/图片查询，还可调用 DB 查询 API 调用 等。

3️⃣ 多跳推理 – 每一步基于上一结果决定接下来，例如 “Google AI 产品发布 → 每个产品关键性评估 → 综合答案”。

4️⃣ 自我反思 & 验证 – 自动评估矛盾信息并主动补充验证步骤。

痛点八

• 延迟明显提高，深度研究任务可能耗时数分钟至数小时。
• 成本翻倍，多轮 LLM 调用 + 检索 token 消耗激增。

---

2026 年关键技术详解

# 多模态 R A G : 从文本到全感官檢測

三种架构范式

范式一 Text Bridge

text 图像/音频/视频 → 描述生成 / ASR → 文本 → 文本嵌入 → 文本向量检索 优点 复用现有文本基础设施；缺点 信息损失大，

范式二 统一嵌入空间

text 图像 → CLIP 图像编码器 → CLIP 文本编码器 → 文本 ↔ 图像向量相似计算 优点 无中间文本层；缺点 视觉细节理解有限，

范式三 端到端视觉檢測 ColPali

text PDF 页面 -> ColPali 视觉编码器 -> 页面向量 ↔ 查询向量 -> 相似计算 -> 页面向量 完全跳过 OCR 与文本提取，可直接定位表格和结构。

---

评估程序专项 ： RAgAS 、 ViDoRe v³ 、 TruLens

✅ RAgAS : 基础事实评估

指标	定义
忠实度	回答内容是否可从已檢錄资料支持
答案相关性	回答是否真正回应使用者问句
上下文精确率	檢錄结果里相关比例
上下文召回率	所需信息被覆盖比例

---

🎯 ViDoRe v³ : 专注视觉文件檢測

新增维度这方面。* 视觉保留度 —— 表格结构与颜色保留情况 * 布局感知 —— 多栏、多重叠布局捕获 * 跨语言精确率 —— 多语言文件一致性能

---

🔍 TruLens : 可觀测网站集成

实时监控三元组： 1. Answer Relevance 2. Context Relevance 3. Groundedness

建立离线 ↔ 在线 ↔ 人工评估流水线，实现持续质量保障。

---

语义缓存 ：减少重复檢录 工程实践

什么是语义缓存？

基于“语义相似”而非字符串完全一致来命中缓存，以提高命中率并降低重复查找成本。

主要实现原理

1️⃣ 嵌入转换为矢量 2️⃣ 在缓存内做余弦相似匹配> 阈值则命中 - 命中 ⇒ 返回缓存结果 - 未命中 ⇒ 正常流程后存入缓存

参数调优建议

• 相似阈值 0.85‑0.95 —— 权衡命中率与准确性
• 缓存过期时间 ‑ 静态知识可设24+小时；怎么说呢，动态数据则分钟级
• 缓存容量 ‑ 根据内存预算设置最大条目数

痛点九的观点是，

• 高频更新场景易产生陈旧结果
• 个体化高度差异化的问题命中率低
• 实时数据需求如天气等不适合使用缓存

---

本章小结

程序。本章全面勾勒出至2026年的智能檢录环境：

1️⃣ 五阶段演进 • Naïve ➜ Advanced ➜ Modular ➜ Graph-enhanced ➜ Agentic，每一步都添加新维度以解决实际痛点。

2️⃣ 六大关键技术 • 多模态 ↔ ColPali ↔ Graph‑Enhancement ↔ 自适应 & 流式同步 ↔ Semantic Cache。

3️⃣ 最佳组合策略 • “先用RAg筛选 + 长上下文深读”。“稳定知识 CAg + 动态更新 RA g”，“简单问答 CAg 或单词 RA g”，“复杂任务 Agentic RA g + 长上下文”。

智能檢录正成为上下文工程里“外部知识层”的关键技术支柱，下章将聚焦「跨时间持久记忆」建立 AI 长期记忆程序。