/>

一、大模型开发整理流程

1.1、什么是大模型开发

我们将开发以大语言模型为功能核心、通过大语言模型的强大理解能力和生成能力、结合特殊的数据或业务逻辑来提供独特功能的应用称为大模型开发。

开发大模型相关应用，其技术核心点虽然在大语言模型上，但一般通过调用

API

来实现大语言模型的控制，因此，虽然大模型是深度学习领域的集大成之作，大模型开发却更多是一个工程问题。

在大模型开发中，我们一般不会去大幅度改动模型，而是将大模型作为一个调用工具，通过

Prompt

Engineering、数据工程、业务逻辑分解等手段来充分发挥大模型能力，适配应用任务，而不会将精力聚焦在优化模型本身上。

开发在整体思路上有着较大的不同。

• 传统AI

  开发：首先需要将复杂的业务逻辑依次拆解，对于每个子业务构造训练数据与验证数据，对于每个子业务训练优化模型，最后形成完整的模型链路来解决整个业务逻辑。

• 大模型开发：用

  Prompt

  来解决任务，从而将传统的模型训练调优转变成了更简单、轻松、低成本的

  Prompt

  开发：构造训练集、测试集、验证集，通过在训练集上训练模型、在测试集上调优模型、在验证集上最终验证模型效果来实现性能的评估。

• 大模型开发：更敏捷、灵活，不会在初期显式地确定训练集、验证集，而是直接从实际业务需求出发构造小批量验证集，设计合理

  Prompt

  来满足验证集效果。

  然后，不断从业务逻辑中收集当下

  Prompt

  Prompt，最后实现较好的泛化效果。

/>

/>

1.2、大模型开发整体流程

/>

1.2.1、设计

包括确定目标，设计功能。

/>确定目标：在进行开发前，需要确定开发的目标，即要开发的应用的应用场景、目标人群、核心价值。

一般应先设定最小化目标，从构建一个

mvp（最小可行性产品）开始，逐步进行完善和优化。

设计功能：确定开发目标后，设计本应用所要提供的功能，首先确定应用的核心功能，然后延展设计核心功能的上下游功能；例如，想打造一款个人知识库助手，核心功能就是结合个人知识库内容进行问题的回答，上游功能——用户上传知识库、下游功能——用户手动纠正模型回答，就是子功能。

1.2.2、架构搭建

搭建整体架构：搭建项目的整体架构，实现从用户输入到应用输出的全流程贯通。

包括搭建整体架构和搭建数据库。

目前，绝大部分大模型应用都是采用的特定数据库+

Prompt

进行个性化定制，实现从用户输入到数据库再到大模型最后输出的整体架构连接。

搭建数据库：大模型应用需要进行向量语义检索，一般使用诸如

chroma

的向量数据库。

搭建数据库需要收集数据并进行预处理，再向量化存储到数据库中。

数据预处理一般包括从多种格式向纯文本的转化，例如

pdf、markdown、html、音视频等，以及对错误数据、异常数据、脏数据进行清洗。

完成预处理后，需要进行切片、向量化构建出个性化数据库。

1.2.3、Prompt

Prompt

设计的一般原则及技巧，构建出一个来源于实际业务的小型验证集，基于小型验证集设计满足基本要求、具备基本能力的

Prompt

对大模型能力具有极大影响，需要逐步迭代构建优质的

Prompt

来提升应用性能。

1.2.4、验证迭代

验证迭代在大模型开发中是极其重要的一步，指通过不断发现

Bad

设计后，应该进行实际业务测试，探讨边界情况，找到

Bad

存在的问题，从而不断迭代优化，直到达到一个较为稳定、可以基本实现目标的

Prompt

版本。

1.2.5、前后端搭建

完成

Prompt

及其迭代优化之后，就完成了应用的核心功能，可以充分发挥大语言模型的强大能力。

接下来搭建前后端，设计产品页面，让应用上线成为产品。

两种快速开发

Demo

Streamlit，可以帮助个体开发者迅速搭建可视化页面实现

Demo

上线。

在完成前后端搭建之后，应用就可以上线体验了。

接下来就需要进行长期的用户体验跟踪，记录

Bad

与用户负反馈，再针对性进行优化即可。

这份完整版的大模型

学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

/>

/>

二、项目流程简析

基于个人知识库的问答助手介绍项目流程。

项目原理：项目原理如下图所示，过程包括加载本地文档

->

/>

2.1、项目规划与需求分析

1、项目目标：基于个人知识库的问答助手

2、核心功能：

/>2、选择知识库，检索用户提问的知识片段；

/>3、提供知识片段与提问，获取大模型回答；

/>4、流式回复；

/>5、历史对话记录

3、确定技术架构和工具：

1、LangChain框架

/>2、Chroma知识库

Streamlit。

2.2、数据准备与向量知识库构建

2.2.1、收集和整理用户提供的文档

用户常用文档格式有

pdf、txt、doc

等，首先使用工具读取文本，通常使用

langchain

的限制，需要对读取的文本进行切分，将较长的文本切分为较小的文本，这时一段文本就是一个单位的知识。

2.2.2、将文档词向量化

使用文本嵌入(Embeddings)对分割后的文档进行向量化，使语义相似的文本片段具有接近的向量表示。

然后，存入向量数据库，这个流程正是创建

索引(index)

的过程。

向量数据库对各文档片段进行索引，支持快速检索。

这样，当用户提出问题时，可以先将问题转换为向量，在数据库中快速找到语义最相关的文档片段。

然后将这些文档片段与问题一起传递给语言模型，生成回答。

2.2.3、将向量化后的文档导入Chroma知识库，建立知识库索引

Chroma

向量库轻量级且数据存储在内存中，非常容易启动和开始使用。

用户知识库内容经过

embedding

embedding，利用向量相关性算法（例如余弦算法）找到最匹配的几个知识库片段，将这些知识库片段作为上下文，与用户问题一起作为

prompt

回答。

2.3、大模型集成与API连接

• 集成GPT、星火、文心、GLM

  等大模型，配置

  的交互，以便获取问题答案。

2.4、核心功能实现

• 构建

  Prompt

  Engineering，实现大模型回答功能，根据用户提问和知识库内容生成回答。

• 实现流式回复，允许用户进行多轮对话。

• 添加历史对话记录功能，保存用户与助手的交互历史。

2.5、核心功能迭代优化

• 进行验证评估，收集

  Bad

  迭代优化核心功能实现。

2.6、前端与用户交互界面开发

• 使用

  Gradio

  搭建前端界面。

• 实现用户上传文档、创建知识库的功能。

• 设计用户界面，包括问题输入、知识库选择、历史记录展示等。

2.7、部署测试与上线

• 部署问答助手到服务器或云平台，确保可在互联网上访问。

• 进行生产环境测试，确保系统稳定。

• 上线并向用户发布。

2.8、维护与持续改进

• 监测系统性能和用户反馈，及时处理问题。

• 定期更新知识库，添加新的文档和信息。

• 收集用户需求，进行系统改进和功能扩展。

三、项目架构简析

3.1、整体架构

搭建一个基于大模型的个人知识库助手，基于

LangChain

调用、向量数据库、检索问答链等。

项目整体架构如下：

/>

项目从底向上依次分为

层、数据层、数据库层、应用层与服务层：

3.1.1、LLM

层

基于四种流行

（OpenAI-ChatGPT、百度文心、讯飞星火、智谱GLM）进行了

LLM

调用封装，支持用户以统一的入口、方式来访问不同的模型，支持随时进行模型的切换；

在

LLM

等）；在该基类基础上继承实现了上述四种

LLM

函数中。

3.1.2、数据层

包括个人知识库的源数据（包括

pdf、txt、md

处理可以被向量数据库使用；

3.1.3、数据库层

基于个人知识库源数据搭建的向量数据库，本项目中选择了

Chroma。

在该层实现了源数据处理、创建向量数据库的方法;

3.1.4、应用层

应用层封装了整个项目的全部核心功能。

基于

LangChain

参数进行不同模型切换以及便捷实现基于数据库的检索问答。

实现了两个检索问答链，分别是有历史记录的

Chat_QA_Chain

QA_Chain；

3.1.5、服务层

实现了

Gradio

两种方式来支持本项目的服务访问。

3.2、代码结构

-project
-readme.md
-chat_qa_chian.py：封装对话检索链，返回一个带有历史记录的对话检索链对象
-get_vectordb.py
使用示例

3.3、项目逻辑

1、用户：可以通过

run_gradio

实例化对话检索链对象，实现全部核心功能；

prompt_template.py

embedding

​最后

我在一线科技企业深耕十二载，见证过太多因技术更迭而跃迁的案例。

那些率先拥抱

的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。

我整理出这套

大模型突围资料包：

• ✅AI大模型学习路线图
• ✅Agent行业报告
• ✅100集大模型视频教程
• ✅大模型书籍PDF
• ✅DeepSeek教程
• ✅AI产品经理入门资料

完整的大模型学习和面试资料已经上传带到CSDN的官方了，有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇

/>​​

/>

为什么说现在普通人就业/升职加薪的首选是AI大模型？

人工智能技术的爆发式增长，正以不可逆转之势重塑就业市场版图。

从DeepSeek等国产大模型引发的科技圈热议，到全国两会关于AI产业发展的政策聚焦，再到招聘会上排起的长队，AI的热度已从技术领域渗透到就业市场的每一个角落。

/>

/>智联招聘的最新数据给出了最直观的印证：2025年2月，AI领域求职人数同比增幅突破200%，远超其他行业平均水平；整个人工智能行业的求职增速达到33.4%，位居各行业榜首，其中人工智能工程师岗位的求职热度更是飙升69.6%。

AI产业的快速扩张，也让人才供需矛盾愈发突出。

麦肯锡报告明确预测，到2030年中国AI专业人才需求将达600万人，人才缺口可能高达400万人，这一缺口不仅存在于核心技术领域，更蔓延至产业应用的各个环节。

/>

​​

/>

资料包有什么？

①从入门到精通的全套视频教程⑤⑥

包含提示词工程、RAG、Agent等技术点

/>

AI大模型学习路线图（还有视频解说）

全过程AI大模型学习路线

/>

③学习电子书籍和技术文档

市面上的大模型书籍确实太多了，这些是我精选出来的

/>

④各大厂大模型面试题目详解

/>

⑤

这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理，鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位，在包括IEEE

Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利，同时还斩获了吴文俊人工智能科学技术奖。

目前我正在和鲁博士共同进行人工智能的研究。

所有的视频教程由智泊AI老师录制，且资料与智泊AI共享，相互补充。

这份学习大礼包应该算是现在最全面的大模型学习资料了。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

/>

/>

智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念‌，通过动态追踪大模型开发、数据标注伦理等前沿技术趋势‌，构建起"前沿课程+智能实训+精准就业"的高效培养体系。

课堂上不光教理论，还带着学员做了十多个真实项目。

学员要亲自上手搞数据清洗、模型调优这些硬核操作，把课本知识变成真本事‌！

​​​​

/>

/>

如果说你是以下人群中的其中一类，都可以来智泊AI学习人工智能，找到高薪工作，一次小小的“投资”换来的是终身受益！

应届毕业生‌：无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌：非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能

‌突破瓶颈：传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓**

/>

​