truncateHeadForPTLRetry

truncateHeadForPTLRetry

Tag

当前位置:首页 > truncateHeadForPTLRetry >
  • 如何优化 truncateHeadForPTLRetry 的重试机制?

    如何优化 truncateHeadForPTLRetry 的重试机制?

    . 概述 truncateHeadForPTLRetry 是压缩流程中的最终逃生口 。当压缩请求本身因为长度超限返回 prompt‑too‑long 时这个函数会从头部丢弃最旧的消息,让重试得以继续。 为什么需要它 —— 使用者痛点 对话卡死: 如果不丢掉旧消息。使用者会看到“对话太长,无法继续”的错误提示,整个会话陷入死循环。 无限重试循环: 未移除上一次插入的标记会导致

    查看更多 2026-08-06

提交需求或反馈

Demand feedback