说起来，

：大模型的“天花板”与 Agent 的“破局”

使用者痛点：你已经体验到大语言模型能回答各种问题。但当需要它“记住上周聊过的事情”“帮你读取网页并填表”“查询公司内部最新的销售数据”时模型却表现得力不从心。不过，

这不是模型不够聪明，而是大模型天生存在几个结构性短板：

第一。LLM 是无状态的

使用者痛点：每一次对话对模型来说都是“初次见面”。上周花了两个小时聊项目背景，今天再提，模型已经忘得一干二净。

要让模型记住上下文。你需要一个记忆模块——把对话历史存到数据库、Redis，或前端本地存储中，每次请求时把相关的历史记录一起发给模型。

第二，LLM 只能“说”。不能“做”

使用者痛点：让它访问网页、写文件、调 API 时它只能给出思路，却无法直接执行。

要让模型真正执行操作。你需要给它装上工具——让模型能够调用外部函数，读写文件、发送网络请求、输入命令行指令。

第三。LLM 的知识有截止日期

使用者痛点：最新的娱乐新闻、今天的股价、公司内部的私有文档，这些信息模型统统不知道。怎么说呢，

你需要RAG来接入外部知识库。并使用MCP标准化第三方工具的接入方式。不过，

第四。LLM 缺少领域深度

使用者痛点：L​LM 在做 PPT、分析股市并自动买卖、执行复杂多步骤工作流时往往力不从心。

这些任务需要将通用能力“蒸馏”成特定领域的专业技能。

Agent正是围绕以上所有问题，为 LLM 加上 Memory 记忆模块、Tool 工具调用能力、RAG 知识检索、MCP 协议支持和 Skills 技能程序之后的产物。

This transformation turns LLM from “a chat model” into “a working AI agent”.

Agent 的工作原理：从接收到完成任务的全流程

当使用者以 Prompt 的形式向 Agent 提出复杂任务时Agent 内部会经历一套精密协作流程：

1. 规划与推理: LLM 理解意图，将任务拆解为可执行子步骤。例如“帮我分析项目代码质量”，Agent 会规划出：列文件结构 → 读取关键文件 → 分析代码模式 → 给出报告。

2. 记忆检索: 检查是否需要加载历史记忆。不过，如果之前讨论过项目背景。Agent 会从记忆模块中提取相关上下文，避免重复解释。

3. 工具调用: 判断并按步骤调用所需工具。怎么说呢，读取文件、搜索代码、运行测试——每个工具调用都有明确输入参数和返回结果。Agent 决定接下来行动。

4. 知识提高: 当任务涉及内部私有知识时从向量数据库检索相关文档片段。并通过 Prompt Template 注入上下文，让模型获得超出训练数据的知识。

5. 响应与反馈: 汇总所有工具执行结果和推理过程。生成最终回答，完成使用者任务。

The core idea is: LLM is brain,tools are hands,memory is experience。 RAG is external knowledge—none can be omitted.

LangChain：Agent 开发的“万能胶水”

User Pain Point: 不同大模型厂商提供各异 API，让开发者陷入频繁切换与适配困境。不过，LangChain 通过统一抽象层。让你用同一套代码调用 OpenAI、Anthropic、DeepSeek 等多家模型，实现“一次编码，多处运行”。

技术栈概览

• 后端框架：NestJS
• Agent 框架：
• 工具环境：MCP / RAG / Skills

第一步先这方面，绑定模型

import { ChatOpenAI } from '@langchain/openai';const model = new ChatOpenAI({
modelName: 'deepseek-v4-flash',apiKey: process.env.DEEPSEEK_API_KEY。temperature: 0,configuration: {
baseURL: 'https://api.deepseek.com/v1',},});

This .bindTools-compatible ChatOpenAI wrapper lets you switch models by only changing .modelName/.baseURL。avoiding vendor lock‑in.

至于接下来，定义工具

import { tool } from '@langchain/core/tools';import { z } from 'zod';import fs from 'fs/promises';const readFileTool = tool(
async => {
const content = await fs.readFile;console.log => ${content.length} chars`);return content;},{
说到name，'read_file',description:
'Read content of a file. Use when user asks to view or analyze a file.'。schema: z.object({
filePath: z.string.describe,}),}
);

The tool consists of:

• A **function** that performs actual operation.
• A **metadata object** that guides LLM in generating correct calls.
• A design tip: always log execution status so users see progress and don’t think agent is stuck.

：注册工具并创建 Agent

const tools =;const modelWithTools = model.bindTools;const messages =;let response = await modelWithTools.invoke;messages.push;

The workflow:

1. L​LM detects it needs read_file;L​LM emits a structured {tool_calls:};The system pauses generation and executes tool asynchronously;The result is attached back to original .tool_call_id;L​LM resumes generation using both user query and tool output to produce a final answer.

   再看性能调整。Promise.all 并行执行

   User Pain Point: 在复杂任务里如果串行调用多个工具，会导致数十秒甚至分钟级别的等待时间。

   
   const = await Promise.all();// Total ≈ max ≈ 2000ms
   

   • PENDING: Task not finished yet.
   •  Task succeeded.
   • B Task failed.
   All state transitions are one‑way immutable,guaranteeing deterministic async behavior.

   If multiple tool calls are independent—e.g.。reading three unrelated config files—use PROMISE.ALL. This reduces total latency from sum to max duration,which is crucial for building high‑performance agents.

   从 Demo 到产品：Agent 开发的完整图景

   A concrete example: “Create a React + Vite TodoList app”. The LLM breaks it down into three steps:

   1. Create project with Vite → CLI tool call;
   2. Add TodoList component → File write tool call;
   3. S​tart dev server for verification → CLI again;
   \end{enumerate}

   Each step’s result feeds into next decision—exactly how Claude Code works under hood .