RAG问答系统到底是个啥玩意儿

先说说背景吧。

大模型太猛了可是单靠它自己有时候会瞎扯。

这时候我们就需要一个检索模块，帮它把“参考书”翻出来。

这招叫Zuo RAG——Retrieval‑Augmented Generation。

哈哈，说白了就是先找资料，再让模型写答案。

你可Neng会想，这和普通搜索有什么区别？

其实搜索只给你文档列表，而 RAG 会直接给你答案。

懂了吧？咱们接着往下聊。

一步步搭建Zui小可运行的 RAG Demo

先准备好 Node 环境，我这里用了 LangChain+OpenAI。

别怕，这玩意儿装起来跟装插件差不了多少。

import { MemoryVectorStore } from "langchain/vectorstores/memory";
import { OpenAIEmbeddings } from "langchain/embeddings/openai";
import { ChatOpenAI } from "langchain/chat_models/openai";
const embeddings = new OpenAIEmbeddings;
const vectorStore = await MemoryVectorStore.fromDocuments(
  ,
  embeddings
);

kan，这段代码把三条硬编码文档塞进了内存向量库。

记住MemoryVectorStore 只在内存里进程重启全没了。

生产环境里我们会换成 Pinecone、Qdrant 那种持久化方案。

检索 + 增强 Prompt 的核心流程

用户来一句「React 是什么？」

第一步：把这句话跑 embedding 得到查询向量 Q。

第二步：用向量相似度算 Top‑K 文档。

第三步：把这些文档拼成 Prompt，加上系统角色设定。

const docs = await vectorStore.similaritySearch;
const context = docs.map.join;
const prompt = `你是前端大神，请基于以下资料回答问题。
资料:
${context}
问题:${question}`;

然后把 Prompt 丢给 LLM：

const chat = new ChatOpenAI;
const answer = await chat.invoke;
return answer.content;

说实话，这套流程Yi经Neng满足大多数内部工具需求了。

常见坑：幻觉与知识截止

L大模型有时会自信地编造信息，这叫幻觉。

Ru果没有检索到合适文档，它可Neng凭空捏造答案。

所以一定要Zuo好检索质量评估，比如加个重排序模型或者混合 BM25 检索。

为什么百度不收录我的 RAG 项目页面？

这个问题经常被问到，我也遇到过类似情况。

A：百度爬虫可Neng根本没抓到你的页面因为没有外链指向它。

B：页面内容太动态，用了大量 JS 渲染，爬虫kan不到真实文本。

C：还有一种情况是 robots.txt 把 /api/ 路径给屏蔽了。

解决办法hen简单——在 HTML 中加入静态 meta description 和关键词，让爬虫Neng直接读取；再加点外链，引导搜索引擎发现它就行啦！

Semi‑structured Prompt 的小技巧

#1 用「请基于以下资料」明确指令，让模型知道要引用上下文。

#2 在每段引用后加上「」标记，后期渲染成脚注geng专业。

#3 温度调低Ke以减少随意发挥，geng贴近检索结果的事实性回答。

从内存库到持久化向量数据库的迁移思路

先把现有 docs 导出成 JSON：

 },
  ...
]

Pinecone 那边创建 index 后用批量 upsert 把数据塞进去就完事儿了。

Semi‑annual 我们公司就这么换了一次从 Memory 到 Qdrant，几乎零 downtime！

实战代码片段回顾

@Post
async rag body: { question: string }) {
  const answer = await this.aiService.rag;
  return { code: 0, answer };
}

一下有哪些关键点值得记住？ end of story – 老友提醒一下哈

AIAssistant 用完记得关掉 API Key，不然钱包哭晕过去呀！哈哈～

咱们今天聊的就是这些，你要是还有啥疑问，就直接在评论区砸锅卖铁吧！

---