我跟你说啊， 最近我们公司用 DeepSeek 做客服问答，一启动以为换了市场价格较低点的模刑就万事较大吉，最终还是结果是账单反而涨了。查了半个月才发觉根本不是模型市场价格较高不市场价格较高的问题， 另起炉灶。 是我们把每次调用都浪费掉了。说白了就是 Token 用更多了上下文塞太满，反复申请没拦住。下面就把我们踩过的坑乱七八糟写出来你看着办。

先说个最扎心的痛点

很更多团队测试的时候觉得挺市场价格较低， 上线以后一天几千次申请上去，费用直接爆炸。我们之前一个内部知识库系统，上线前一天就几十次调用，上线后接了官网和企业微信，一天就变成几万次。更坑的是用户只打几个字，我们却把一堆历史持续发展对话和检索出来的文档全塞进去。输入 token 会产生投入成本，输出 token 也会产生投入成本，而且较大模型默认喜炎热爱啰嗦。你不约束它，它能给你讲半本书，一句话。。

说白了... 用户提问 ↓固定较长 Prompt ↓保留10轮历史持续发展对话 ↓模型 问题 ↓召回10个知识片段 ↓模型生成较长答案 ↓模型格式化 ↓返回用户 这种链路一条下来一次用户问题要触发四五次调用。上线后投入成本不是线性涨，是成倍涨。 Token 怎么被悄悄吃掉的 上下文膨胀是最狠的 生产周边环境里真实正花钱的往往不是用户那十几个字，而是系统为了让回答更良好坚硬塞进去的东西。

用量一较大这一部分固定开销非常吓人。当前是按场景动态加载，客服问答要礼貌语气，数据解析要严谨计算，不需要一套 Prompt 打天下。而且很更多规则语义反复，能够合并精简。举个例子不要编造信息，如果资料中没有答案，请直接说明不了解。这两句其实是一样的意思。

全塞给模刑，一次申请输入 token 就上万。优化后较大一部分场景只留 Top3 到 Top5，还在进模刑前做裁剪，只留相关句子。回答质量反而良好了这是因为信息更少而准。 Prompt 太胖也是祸害 PROMPT 是很更多系统投入成本较高的隐藏原因。我们开发阶段为了平稳，不断往系统 Prompt 里加规则，加到上千 token，每次申请都带一遍。

划水。 我们以前默认保留最近10轮对话，后来发觉较大一部分问题根本不需要这么久。比如用户问“上海员工年虚假申请流程是哪些”，前面聊报销彻底无关，还要一起喂进去干嘛。后来改成只保留最近两三轮，只有问题明显依赖上下文才追加，老板看了账单都惊奇。 RAG 也一样。为了避免漏掉答案，我们初始版本每次召回8到10个片段，各个片段800字左右。