RAG到底是个啥玩意儿

说实话，RAG听起来高大上。

其实就是让大模型先去找点材料，再把材料塞进去一起聊。

哈哈，别想太复杂，像你在聊天群里先抄几段资料，再给大家解释。

这个过程分三步：检索、拼接、生成。

咱就是说这三步每一步douNeng玩出花样。

高级技术盘点——从底层到表层的调戏 1️⃣ 向量检索 + BM25 混合召回

向量擅长捕捉语义相似，BM25 擅长关键字匹配。

把两者混合，就像把“kan图识字”和“拼音查词”绑在一起。

代码示例：

def hybrid_search:
    vec_scores = vector_store.similarity_search_with_score
    bm25_scores = bm25_index.get_scores
    combined = 
    for i, doc in enumerate:
        score = alpha * doc -  * bm25_scores
        combined.append)
    combined.sort
    return ]

不对不对，alpha 越大越偏向向量，越小越靠 BM25，你Ke以随时调。

2️⃣ Multi‑Query & Query‑Rewrite

用户提问往往千变万化，一句话Neng有十种写法。

让 LLM 把原始 query 扩写成多条变体，再分别召回，覆盖率蹭蹭涨。

def generate_multi_queries:
    prompt = f"""帮我把下面的问题
成 {n} 种不同问法，不要加解释，只要句子。{query}"""
    resp = llm.invoke
    return 

3️⃣ Rerank 精排模型

粗召回拿到一堆候选，Rerank 就像金属探测仪，把Zui有价值的挑出来。

BGE‑Reranker 是常用的 Cross‑Encoder，实现简单：

from transformers import AutoModelForSequenceClassification, AutoTokenizer
model = AutoModelForSequenceClassification.from_pretrained
tokenizer = AutoTokenizer.from_pretrained
# 输入  对，输出相关性分数

4️⃣ GraphRAG —— 把文档变成图谱

普通 RAG 只kan片段相似度，面对跨文档实体关联就吃力了。

GraphRAG 会先抽取实体、关系，然后构建知识图谱。

查询时先定位实体，再沿着图走到关联节点，Zui后拼凑上下文回答。

5️⃣ Agentic RAG —— 动态决策的黑科技

传统流程固定：检索 → 拼接 → 生成。

Agentic RAG 把 LLM 当作指挥官，让它判断是否需要检索、要用哪种检索方式甚至要不要继续追问用户。

常见调优疑问—老友聊聊经验碎碎念 a) Chunk 大小怎么选？

A：太小会碎片化，语义信息被割裂；太大又会超限导致截断。

Cue：一般 200~400 token 是个安全区间，业务上可根据文档结构灵活调节。

b) Top‑K 设置多少合适？

C：Top‑K 越大召回率越高，但噪声也跟着涨。

D：先粗召回 10~20 条，然后交给 Rerank 再压到 5 条左右，这样性价比Zui好。

A：这事儿跟搜索引擎爬虫机制有关。一般来说Ru果页面缺少 robots.txt 允许、或者没有足够的外链指向，它就会被忽略。还有一点是内容质量太低或重复率高，也会被打入“黑名单”。说实话，你得检查一下 meta 信息、站点地图，确保页面Neng被正常抓取，然后再提升内容独特性和权威性，百度才会慢慢收录呀。哈哈，这招在业界算是老生常谈了你懂的~

d) 如何评估改动效果？

- 准备一套固定的测试 query 集；

- 每次上线后跑一次召回准确率和响应时延；

- 用指标卡监控 “准确率 / 平均 latency / 新鲜度”。

E) 元数据该放哪些信息？

META Neng帮你过滤权限、定位来源、追踪版本，可别只塞进 chunk_id 那么单薄。

{
  "chunk_id": "doc_001_03",
  "source": "内部手册",
  "department": "财务",
  "permission_tags": ,
  "created_at": "2024-05-01"
}

实战小技巧——从“装逼”到“落地”之间的桥梁 #1 数据预处理别偷懒

- 去掉无意义的空行和广告；

- 对中文Zuo精准分词，尤其是专有名词。

#2 知识库健康度检查必不可少

def check_conflict:
    prompt = f"""请找出以下知识中可Neng冲突的地方，只返回 JSON。{kb_text}"""
    return llm.invoke

#3 持续迭代而不是一次性完工\

Cue： 每周抽取Zui新对话，用 Doc2Query 生新问题并入库；

\

Cue： 每月跑一次时效性检查，把过期价格/政策geng新掉；

\

Cue： 版本管理要记录 hash 值，一键比对差异。

\

——别忘了保持好奇心和耐心呀！

说实话，RAG 的调优不像刷剧那样一口气kan完就完事儿，它geng像养盆栽，需要定期浇水施肥和剪枝。

哈哈，你遇到啥卡壳了就先回头检查 metadata、chunk 大小和 Top‑K，是不是哪个环节闹脾气了。

C好啦，这篇随手写的碎碎念，希望Neng帮你在 RAG 的路上少走弯路，多踩坑也少踩坑。咱们下次再聊geng细节的实现细节吧！懂得dou懂，不懂的继续探索呗~ 🚀​

---