现在市面上的 Agent 教程太多了要么太浅要么太碎。

之前一直关注的博主三元同学最近出了《吃透 AI Agent 开发》这门课。从「底层实现级」角度拆解真实产品的工程决策，帮助你建立完整的 Agent 知识程序，覆盖六大方向。话说回来，

这门课学习下来让我对 Agent 有了全面的认知。下面是我的学习笔记，

往期学习笔记吃透 AI Agent 开发：

做 Agent 开发。有些大模型本身的底层机制，你不得不了解

做 Agent 开发的人经常会遇到一类“灵异事件”——明明 prompt 写得没问题，模型却反复犯同一个错；明明上下文没超，模型却“忘了”前面的信息；调了半年参数，效果还不如别人随手写的。这些问题的根，往往不在 prompt engineering 上。而在你对模型底层运作机制的理解上。

当你开始认真做 Agent 开发时会很快发现一件让人不安的事：模型吐出的内容。有时候看起来完全正确，但执行后却出了问题——调用了一个根本不存在的工具、忘记了早期的任务目标、或者在长对话中行为悄然漂移。这些问题不是 prompt 写得不够好能解释的，它们源于大模型本身的底层机制——Token 化、、KV Cache、Attention 计算——这些东西在悄悄支配着 Agent 的每一次决策。老实说，

如果你不了解它们。很多 Agent 的设计决策会变成“玄学调优”；理解了它们，你才能真正掌握 Agent 开发的主动权。不过，

一、Token 化与中文的代价

做 Agent 开发。你每天都在跟 token 打交道——API 按 token 计费、按 token 计量、prompt 要压缩到 token 预算内。但你选的「中文」这门语言，在 token 化这件事上天然吃亏。我们先把这个账算清楚，

BPE 分词器的工作原理

BPE是目前主流 tokenizer 的主要算法，GPT、Claude 都在用。它的工作原理是：从一个字节级词汇表出发。反复合并高频相邻 pair，最终得到一个固定大小的词表。按理说，高频词片段被编码为单个 token。低频的则被拆成多个 token。

对英文而言。 空格天然分隔单词，大部分常用词直接就是单个 token。但中文没有空格分隔，BPE 被迫在字节层面切分——一个常用汉字≈1 token。一个中文词通常是2‑3 token。

用具体数字说话：

至于这代表着。表达相同语义，中文消耗的 token 数通常是英文的 1.3‑1.5 倍。

逐字符拆解这方面，为什么中文天然多消耗

以"使用者的输入是："和"user input:"为例：

• "使用者的输入是："包含6个汉字+1个冒号：
  • 每个汉字≈1 token
  • 冒号属于英文符号，一般≈1 token
  • 至于估算。6×1 + 1 ≈7 tokens
• "user input:"包含12个字符：
  • BPE 对英文按空格分词，高频词"user"≈1 token，"input"≈1 token，空格和冒号合并约0.5 token
  • 说到估算，≈2.5 tokens

背后原因不是「中文内容多」，而是 tokenizer 对中文处理粒度更细。

中文 Token 效率低的三个工程后果

• . 工具调用描述是重灾区：Agen​t 的 function calling schema 通常是英文写的，例如"description": "Search web for current information". 翻译成中文后"description": "搜索互联网获取当前信息"`会导致 token 数翻倍。每个 tool definition都会被携带进每轮上下文。
• . 思维链的隐性税：COT 越长越好。但中文 COT 天然多付约30%‑50%的 token费，一样深度更快撞上上限。说起来，
• . Few‑shot 示例成本不对称：COT 或 few‑shot 中加入 - 个示例时中文示例比英文示例占用更多 token。而示例往往是 prompt 中最占空间的一块。

中文 Agent 的「中文税」有多重？

1000 轮对话，每轮平均多消耗30 tokens。说到计算如下，

• 从每天额外消耗来看。1千 × 30 = 30,000 tokens ≈ 30K tokens/天。其实，
• 全年额外消耗的观点是。30K × 365 ≈ 11M tokens/年。
• 输入 token ≈ $0.001 / 1K tokens.

成本 ≈ $0.001 × = $11/年。若实际使用规模更大，例如每日10K轮，则年度额外费用可达数千美元甚至上万美元。这正是很多团队忽视「中文税」后的真实账单冲击点。

至于工程策略，主要推理英文化 + 边界翻译

The practical solution adopted by many成熟产品 is:

• → → → →

 → → → →

This keeps system prompts。function schemas,CoT steps and tool results in English,paying only a tiny translation overhead.

翻译开销是否抵消节省？老实说，

• A short message translates to ~15 English tokens + a translation instruction = ~20 tokens total.
• If whole conversation were in Chinese it would be ~30 tokens.
• The net saving per round is ~10 tokens – negligible compared to multi‑hundred‑token savings from an English internal pipeline.

Token估算安全边距

S A F E T Y _ M A R G I N = 0 .85 ”。选择该系数可以覆盖 P95 场景，同时避免过度浪费。