嘿，老铁们！今天聊聊怎么把 RAG跑得稳稳的，别说我没提醒你，召回、重排、上下文预算三块要一起打平。

想象你在找老朋友的联系方式。先把所有社交平台dou搜索一下再合并去重。RAG 也一样。

我们常用两条通道：关键词检索和向量检索。 关键词是硬匹配——精确实体、订单号、品牌名。 向量是软匹配——语义相近、同义词、口语化表达。

关键点是不要把两条通道拼成一堆乱序的列表。先拿到候选后要Zuo合并去重，再交给 Rerank Zuo精排。

const esHits = await esClient.search({
  index: 'knowledge',
  size: kEach,
  query: {
    multi_match: {
      query: q,
      fields: ,
      type: 'best_fields',
      analyzer: 'ik_smart'
    }
  }
});

const milvusHits = await milvus.similaritySearch;

Ru果 ES 和 Milvus dou返回同一篇文章，那就只保留一次节省上下文窗口。

function dedupeDocs {
  const seen = new Set;
  return docs.filter(d => {
    const id = d.metadata.id;
    if ) return false;
    seen.add;
    return true;
  });
}

哈哈，你问这个，其实跟 RAG 没啥直接关系。说个小故事：我之前写了一篇技术博客，标题叫《如何有效管理 RAG 的召回、重排与上下文预算？》结果根本没被百度收录。原因hen简单——内容太专业，缺少人类可读的关键字，而且我忘了给页面加 meta 标签。再说一句：别光靠技术细节，还要考虑 SEO。

Deno/Node 上跑 DashScope 或者 OpenAI 的 reranker 模型吧。它会把用户原始问题 + 每个候选文档一起喂进去，让模型直接判断“这段文本Neng回答吗”。

const topDocs = await reranker.compressDocuments;

记住：Rerank 并不是万Neng清洗器，它只负责排序。Ru果第一阶段召回Yi经跑偏，那 Rerank Neng选到相对好一点，但根本还是缺少证据。

ID 值保持一致非常重要；否则去重会失效，还会导致日志难追踪。

Llama / ChatGPT 等大模型往往有4k /8k token 限制。我们要控制 TopN 的大小，让模型只吃Zui干净的证据。

#1 把 ES 和 Milvus 的结果合并后用 Rerank 精排到前10条。

#2 再对这10条Zuo一次摘要或压缩，只保留关键信息。

#3 Zui后把压缩后的文本放进 prompt，确保 LLM 有足够上下文但不被噪声淹没。

function buildContext {
  return docs.map=>` ${d.pageContent}`).join;
}
const contextStr = buildContext;
const prompt = `
你是一个知识库助手。
请根据以下文本回答用户的问题：
${contextStr}
用户问题：${query}
`;
const answer = await llm.generate;

#1 用户输入 → Query Augmentation.

#2 多角度查询分别跑 ES 与 Milvus.

#3 合并去重 → 得到 rawCandidates.

#4 Rerank 精排 → topK 文档.

#5 上下文预算控制 → 减少噪声.

#6 LLM 用Zui终上下文生成答案.

- 不要让 过多导致核心实体消失； 只Neng补全缺失信息，而不是变形原意。

- 确保每个通道返回的 Document dou带上业务 ID，否则去重无效。

- 超时降级hen重要，一旦 Rerank 超时Ke以直接返回未排序候选或“暂无答案”。

Zui后一句话，咱们团队Zui近遇到一个问题：在生产环境里上下文窗口突然变窄导致答案质量下降。原因是我们把每个请求dou塞进同一个 Redis 缓存里没有分隔不同查询，会造成缓存污染。所以记得使用独立键或前缀区分不同用户/请求，这样才不会互相影响哟！哈哈～