基于Eino框架，构建RAG系统实战教程

RAG是一种为了解决大语言模型幻觉问题而诞生的技术方案。它的核心思想hen简单：用户提问 → 先去"知识库"里找相关资料 → 把资料塞给大模型 → 模型基于真实资料回答。就像一场开卷考试：学生Ke以翻阅课本和笔记再作答，答案自然geng准确、geng有据可查。

我们的RAG系统由多个核心环节串联而成，项目文件结构如下：

AwesomeEino/
├── cmd/run_RAG/
│   ├── main.go          # 入口：串联全部组件
│   ├── .env             # API 密钥配置
├── RAG/
│   ├── MilvusCli.go     # Milvus 客户端初始化
│   ├── embedder.go      # ARK 嵌入模型封装
│   ├── indexer.go       # Indexer 创建 + Schema 定义
│   ├── indexer_binary.go # 自定义 DocumentConverter
│   ├── retriever.go     # Retriever 创建
│   ├── mdOpenFs.go      # 文件读取
│   ├── md_Splitter.go   # 文档切分逻辑
└── docker-compose.yml   # Milvus 服务编排

确保Milvus正在运行：

# . 确保 Milvus 正在运行
docker compose up -d
# . 进入运行目录
cd cmd/run_RAG
# . 运行
go run .

一篇几万字的长文不Neng直接作为一个整体处理——既浪费Token，也会导致检索精度下降。我们需要把它切成语义独立的小段：

func MdOpenFs  {
    bs, err := os.ReadFile  // 读文件为字节数组
    return MdSplitter  // 交给切分器处理
}

当Embedder收到文本时内部流程是这样的：

输入文本: "刘氏家族：粉丝根据他对职业选手Device的喜爱..."
         ↓调用 ARK doubao-embedding-vision- API
         ↓返回:   共 个整数
         ↓通过 DocumentConverter 转换为 byte:
           共 字节
         ↓存入 Milvus BinaryVector 字段

在往Milvus存数据前，需要先定义"表长什么样"。这和MySQL里建表CREATE TABLE是同一个概念：

var fields = *entity.Field{
    {Name: "id", DataType: entity.FieldTypeVarChar, 
     TypeParams: mapstring{"max_length": ""}, PrimaryKey: true},
    // ↑ 主键，唯一标识每条记录
    {Name: "vector", DataType: entity.FieldTypeBinaryVector, 
     TypeParams: mapstring{"dim": ""}},
    // ↑ 二进制向量列！dim 单位是比特， bit =  byte = 维
    {Name: "content", DataType: entity.FieldTypeVarChar, 
     TypeParams: mapstring{"max_length": ""}},
    // ↑ 存储原文内容
    {Name: "metadata", DataType: entity.FieldTypeJSON},
    // ↑ 存储元数据，JSON格式
}

Eino-ext的Milvus indexer组件提供了DocumentConverter钩子，让我们控制如何将模型输出转换为Milvus可接受的格式：

func binaryDocumentConverter(_ context.Context, docs *schema.Document,
                                vectors float64)  {
    rows := make)
    for i, doc := range docs {
        metadata, _ := json.Marshal
        // 核心：每个float64 → byte
        byteVec := make)
        for j, v := range vectors {
            byteVec = byte
        }
        rows = append(rows, &binaryRow{  
            ID:       doc.ID,
            Content:  doc.Content,
            Vector:   byteVec,     // byte → BinaryVector
            Metadata: metadata,
        })
    }
    return rows, nil
}

调用方只需一行：

indexer.Store  // 将切分后的文档全部存入

用户提问："刘氏家族是什么？"，系统会先将其向量化，然后在Milvus中进行相似度搜索：

results, _ := retriever.Retrieve
for _, doc := range results {
    println
    println   // Zui相关的文档片段
    println
}

检索只是RAG的一半。完整的RAG还包括把检索到的上下文喂给大模型，让它生成自然语言回答：

// 使用ARK大模型
model, _ := ark.NewChatModel(ctx, &ark.ChatModelConfig{
    APIKey:  os.Getenv,
    Model:   os.Getenv,  
    Timeout: &timeout,
})
messages := *schema.Message{
    schema.SystemMessage,
    schema.UserMessage),
}
response, _ := model.Generate
println

存储效率geng高 : 个float32需要*4=160字节，而BinaryVector只需字节——节省了1/20的存储空间。 计算geng快 : 汉明距离计算在硬件层面有极大优化，比欧式距离快得多。 召回率不降反升 : 二值化后的向量反而Neng过滤掉部分噪声，提升检索质量。

Eino框架极大地简化了RAG系统的搭建过程。它提供了丰富的组件和接口，使得开发者Ke以专注于业务逻辑的实现，而无需关心底层的细节。例如Eino框架提供了MilvusIndexer, MilvusRetriever等模块，直接支持向量数据库的操作。