在过去的几年里单纯依赖大语言模型进行回答的方案Yi经屡屡出现“幻觉”——模型凭空捏造信息、把事实说错。检索增强生成正是为了解决这个痛点而诞生的，它把传统信息检索和现代生成式 AI 融合在一起，让机器在“开卷有据”的前提下输出答案。

想象你手里有一本厚厚的百科全书，要回答“什么是区块链？”时你不会直接凭记忆胡乱猜，而是先翻到相关章节，再把kan到的内容组织成一句话。RAG 在计算机世界里Zuo的，就是这件事：先从外部知识库中挑出Zui贴近用户提问的片段，然后把这些片段当作上下文喂给大模型，让它基于真实材料生成答案。

文本本身是字符，计算机只Neng处理数字。于是我们使用Embedding 模型把每段文字映射为一个高维数值数组。语义相近的句子会得到距离geng近的向量，这样就Ke以用余弦相似度等度量方法快速找出Zui相似的几段。

举个形象的例子：Ru果把一本书比作一只动物，每本书会被转化成一串特征数字——像动物的体重、毛色、栖息地等。两本书在主题上越相似，它们对应的特征数字就越接近。

长文档直接向量化往往会稀释细节。因此我们会先把文档切成若干 chunk，每块大小一般在 500‑1000 token 左右，并留有一定重叠（overlap)，防止一句话被硬生生截断导致语义丢失。每个 chunk dou会单独生成向量，这样检索时Ke以精准定位到包含答案关键字的小段落。

检索结束后我们把挑选出的若干 chunk 拼接成一个“参考材料”，再连同用户的问题一起送入 LLM。此时模型不再凭空想象，而是围绕提供的上下文进行推理和表述，从而显著降低幻觉率。

实时性：知识库可随时geng新，无需重新微调模型，只要重新构建向量索引即可让系统立刻掌握新信息。

成本优势：相比完整微调需要巨额算力和标注费用，RAG 只需一次性构建向量库，后续查询成本极低。

可信度提升：答案总会附带来源标记（例如 )，用户Ke以点开原文核实。

场景适配广：内部技术文档、客服 FAQ、学术论文库乃至多媒体素材，douNeng通过统一向量化接入 RAG 框架。

下面是一套完整且易于上手的示例代码，仅供学习使用。你只需要准备几篇 .txt 文档，即可体验从「加载」到「提问」全流程。

"""简易 RAG 演示
依赖：langchain, chromadb, dashscope, python-dotenv
核心步骤：
1) 加载本地 txt 文件
2) 使用 RecursiveCharacterTextSplitter 切块
3) 用 DashScope text-embedding-v4 将块转为向量
4) 把向量存入 Chroma 持久化数据库
5) 检索 top‑k 块 → 拼接上下文 → 调用 qwen3‑max 生成答案
"""
import os, argparse
from pathlib import Path
from dotenv import load_dotenv
load_dotenv
API_KEY = os.getenv
if not API_KEY:
    raise SystemExit
# ---------- 配置 ----------
DATA_DIR   = Path.parent / "data"
CHROMA_DIR = Path.parent / "chroma_db"
CHUNK_SIZE = 800          # 每块约 800 token
OVERLAP    = 100          # 重叠 100 token
TOP_K      = 5            # 检索返回前 5 条
# ---------- 工具 ----------
from langchain_community.document_loaders import TextLoader
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_community.embeddings import DashScopeEmbeddings
from langchain_chroma import Chromafrom langchain_community.vectorstores import Chroma
def load_docs -> list:
    docs = 
    for p in DATA_DIR.rglob:
        loader = TextLoader, encoding="utf-8")
        docs.extend)
    return docs
def split_docs:
    splitter = RecursiveCharacterTextSplitter(chunk_size=CHUNK_SIZE,
                                            chunk_overlap=OVERLAP)
    return splitter.split_documents
def embed:
    return DashScopeEmbeddings(model="text-embedding-v4",
                               dashscope_api_key=API_KEY)
def build_index:
    docs   = load_docs
    chunks = split_docs
    vect   = embed
    Chromafrom_documents(chunks, embedding=vect,
                         persist_directory=str).persist
    print
def ask:
    vect      = embed
    store     = Chroma,
                       embedding_function=vect)
    retriever = store.as_retriever
    results   = retriever.invoke
    context = "

".join}#c{r.metadata.get}]\
{r.page_content}" for r in results])
    from langchain_openai import ChatOpenAI
    from langchain_core.prompts import ChatPromptTemplate
    prompt = ChatPromptTemplate.from_messages()
    llm   = ChatOpenAI(model="qwen3-max", api_key=API_KEY,
                      base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
                      temperature=0.0)
    msg   = prompt.invoke
    resp  = llm.invoke
    print
    print
if __name__ == "__main__":
    parser = argparse.ArgumentParser
    parser.add_argument
    parser.add_argument
    args = parser.parse_args
    if args.build:
        build_index
        exit
    if args.ask:
        ask
        exit
print
print
print

假设你的公司内部有一套产品手册，里面记录了不同操作系统下的软件兼容情况。当用户在内部聊天机器人里询问「产品支持哪些系统？」时RAG 的工作流如下：

查询编码：将用户的问题转成查询向量。

相似度搜索：K‑Zui近邻算法在 Chroma 中挑出与查询Zui接近的5个 chunk，其中可Neng包含「Windows 支持」和「Linux 支持」两段文字。

拼接上下文：把这两段文字连同它们所在文件名一起组织成提示词。

L​LM 推理：L​LM 阅读提示词后仅基于提供的信息输出：「当前版本兼容 Windows 10/11 与 Ubuntu 20.04。」并在答案底部标注来源文件及 chunk 编号。

通过这种方式，即使 L​LM 本身对Zui新操作系统不熟悉，也Neng依靠Zui新上传至知识库的数据给出准确答案。

AIGC 正在进入一个「检索+生成」共舞的新阶段。未来可Neng出现以下趋势：

Pinecone / Milvus 等云原生向量数据库将进一步降低部署门槛，让企业无需自建硬件集群即可使用高效召回服务。

E​dge‑LLM 与本地嵌入模型结合，实现离线环境下也Neng完成高速检索与生成，为工业现场或隐私敏感场景打开大门。

L​LM 本身开始支持「插件式」调用外部工具，使得 RAG 不再局限于纯文本，还Neng直接引用图像、音频甚至代码执行结果作为上下文。

Ru果你正苦恼于传统 QA 系统经常跑偏、不敢放大规模，那不妨试试上述 RAG 流程；它既Neng保持“大脑”强大的语言理解，又Neng让“眼睛”随时浏览Zui新资料，从而真正Zuo到“知其然也知其所以然”。🚀💡