至于前言。Agent 研发必走知识库误区

年再提 RAG 知识库，风向已经变了。用 RAG 搭建 Agent 知识库，开始被很多开发者嫌弃。Agent 工程已经进入上下文细致管理阶段。

Agent RAG 知识库概念刚兴起时很多团队和领导很容易沉迷于把公司里又臭又长的祖先文档全部丢进知识库。期待 Agent 通过 RAG 检索使其焕发生机，或者以为将现有内部文档一股脑塞给 RAG，就能迅速理解内部问题，减轻工程师的负担。老实说，

传统 RAG 并不适合直接做 Agent 的主要知识。其实，这

Agent 即便需要知识库。也是需要一个高度语义化的知识库，而不是像 RAG 这类检索知识库。

Agent 的很多技术适用性仍在探索阶段，当然无法覆盖所有业务场景。但足以给出简单的

1. 无论公司还是个人，文档里真正高价值只占很小一部分。低价值资料不会因为被交给 LLM 就变成高价值。
2. 强大知识库 + 万能 Agent 的组合很诱人。但通过上下文让 LLM 理解新知识非常讲究技巧，RAG 检索相比执行显得过于粗糙。
3. 头部 LLM 对通用知识的理解已经足够广、足够深。如果一个 Agent 产品总是需要“接入新知识”才能成立，说明使用场景和产品边界还没有想清楚。
4. Agent 中大量知识依赖的场景一定是小众需求。
5. 把依赖大量外部知识、调整 RAG 检索作为提高 Agent 能力的方向。在效率、体验和性价比上都非常低除非强相关场景，一般不建议投入过多资源。

面向 Agent 的知识库技术方法演进

本篇主要探讨 Agent 场景下 RAG 知识库的演变，还有当下开始慢慢进入 Agent 工程视野的 LLM Wiki 理念。不过，

大纲

• 传统 RAG：固定切片与一维检索
• 高级语义 RAG：Late Chunking 与父子块解耦
• Graph RAG：图提高的网状知识组织与推理
• RAG 的上限：找到材料而非理解知识
• LLM Wiki：从无状态检索到有状态 LLM 连续编译
• Karpity 的 LLM Wiki 三层设计
• LLM Wiki 搭建个人/公司级 Agent 知识库案例
• LLM Wiki 适合哪些场景 / 局限性
• 面向 Agent 的技术横向对比 & 分层 Hybrid 架构落地方案
• 至于思考1。为什么单一 RAG 不适用于 Agent？说到思考2，如何技术选型？

传统 RAG：固定切片与一维检索

痛点 1️⃣: 信息断裂 & 代词指代不明

• 滑动窗口: 在固定大小切片基础上允许重叠。缓解跨边界语义被切断的问题，但仍难完全保留因果关系与实体指代。

痛点 2️⃣: 跨文档语义孤立

• 相似度计算: 利用余弦相似度等几何度量。对查询向量与 Chunk 向量匹配，但 Embedding 模型在编码时呈“单兵作战”状态；文档比如间引用，还有对比，再有演进关系难以表达。

痛点 3️⃣: 机械拼凑引发幻觉

• Top‑K 拼接: 召回后将孤立 Chunk 用换行符生硬拼接，破坏自然语言逻辑网； 冲突或时序演进碎片极易导致逻辑混乱。

高级语义 RAG：Late Chunking 与父子块解耦

痛点 ⚡️ 高级语义改法仍围绕 Chunk 展开：

• 父子块: 用小 Chunk 做检索后恢复更大的父块。以减少碎片化，但仍未突破跨文档关联限制。

• 语义切片: 按语义边界切分而非固定长度。可提高单篇内部完整性，却无法解决不同文件之间因果链条的问题。怎么说呢，

• Late Chunking: 先整体编码再切片。让每个 Chunk 带更多全局上下文，但实现成本高且难以动态更新新内容。

Contextual Retrieval: 

痛点 4️⃣: 未解决跨文件长期关系 & 更新迭代困难

虽然调整了单篇检索质量。但整体架构仍围绕碎片化数据，没有真正建立可持续维护的大规模结构；当资料新增或纠正时需要手工触发重写流程，大大降低了效率与体验一致性。

Graph RAG：图提高的网状知识组织与推理

主要思想： “把文本转成实体节点 + 边缘关系，用图谱做跨文档推理”

主要机制的观点是，

•实体关系抽取： “用 LLM 批量阅读提取实体和关系”
•社区发现 & 群组摘要： “对图结构做聚类。再为社区生成宏观摘要”
•混合检索： “全局问题查社区摘要,局部问题沿实体关系和向量结果 上下文”

• 错误固化 : 若离线抽取错误导致幻觉会一直存在

The graph approach excels at explicit entity relationships and cross‑document paths but still remains a static snapshot after extraction.

This means it can help an agent navigate relationships,but it does not automatically maintain a live,editable knowledge page that agents can read,modify。and audit in real time.

You must still rely on manual or semi‑automated processes to keep graph up‑to‑date.

“ This highlights that Graph Rag is great for path queries but is not a replacement for a continuously maintained knowledge base. &

& & &

‎‎‎‎‎‎‎‎‎

?其实，

---

---

---

• POSSIBLE CHALLENGES:

---

• NLP - ?，

*

The graph approach works... ... .

 **?，?，..?，..?，?，?，?，.... ...?，?，..?，?#，##?##，##?

---