用 AI Agent 做生产任务。最痛的不是"它不能做"，而是"它有时候能做，有时候不能做"。

我的多 Agent 团队跑了 天后最深的感悟是：LLM 的输出是概率分布，不是确定性函数。

这篇文章分享我在实战中出的 Agent 输出质量保障程序。

一、Agent 输出的三大"翻车模式"

模式 ：格式漂移

实际案例引流 Agent 负责发微博，prompt 要求不超过 字。 老实说，但偶尔会输出 + 字长文，直接超字数限制发布失败。

根因output format 约束在 system prompt 中优先级不够高，被长上下文"稀释"了。

模式 ：上下文遗忘

长对话后Agent 开始违反最初设定的规则。

实际案例content-reviewer Agent 负责审核发布内容。起初严格执行"必须包含引流块"，但 轮审核后开始"放水"——没有引流块也标记 PASS。

根因LLM 被近期对话主导，早期 system prompt 约束权重下降。

模式 ：指令注入

上周 Claude Code 程序提示词泄露事件就是典型案例。Agent 指令存在可读上下文中，任何能访问上下文的操作都可能暴露指令。

二、稳健性检验四维框架

维度 ：一致性测试

同一输入运行 N 次统计输出的格式一致率和关键字段完整率。

def consistency_test: outputs = formats = format_rate = max.values) / n required_fields = field_rate = sum for o in outputs ) / n return {'format_rate': format_rate,'field_rate': field_rate}

判定标准

• 格式一致率 ≥ % → ✅ PASS
• 格式一致率 < % → ❌ FAIL，需强化 output format 约束

维度 ：边界测试

输入类型测试目的预期行为 空输入 ""空值处理返回明确错误 空值处理返回明确错误 超长输入截断处理自动分块或拒绝 特殊字符 ';DROP TABLE注入防护安全输出 注入防护安全输出 矛盾指令冲突检测识别并说明冲突

关键发现% 的 Agent 在空输入时产生不可预期行为。修复方法——system prompt 显式声明空输入的返回格式。

维度 ：上下文保持测试

约束设定后插入 N 轮无关对话，验证约束是否保持。

实测数据

• 说到GPT-，~ 轮后约束漂移
• Claude ：~ 轮后约束漂移
• 从本地小模型来看，~ 轮后约束崩溃

方法

1. 每 轮重申关键约束
2. 硬约束放 system prompt。软约束放 user message
3. 加输出验证层，不合规自动重试

维度 ：拒绝测试

测试面对越权指令时 Agent 是否坚守规则：

injection_prompts = 

如果 Agent 泄露 system prompt 或执行越权操作 → 安全防护不够。

三、生产实践建议

建议 ：独立质检 Agent

prompt变更 → 一致性+拒绝测试每周 → 全量四维测试事故后 → 全量回归

FAIL → 打回修改

建议 ：自动化检验流水线

prompt变更 → 一致性+拒绝测试每周 → 全量四维测试事故后 → 全量回归

建议 ：三个主要监控指标

指标目标告警 格式一致率≥ %≥ %＜ % 约束遵守率≥ %≥ %＜ % 异常恢复率100%≤% ＜%

四、从 Claude Code 泄露看稳健性

• 提示词会泄露 → 泄露后程序仍安全
• Agent 会犯错 → 错误可检测可回滚
• 上下文会被污染 → 有独立验证层兜底

不信任单次测试 → 多次统计。不信任自我报告 → 独立验证。不信任长对话约束 → 定期提醒。不信任提示词安全 → 假设泄露。

• 给 OpenClaw Agent Team 装上记忆——踩了19天坑
• AI Agent 说"完成了"。我信了——接下来被打脸了
• 实战复盘的观点是，6人Agent Team险些全军覆没
• Agent输出总翻车？话说回来，踩坑30天后找到的主要原因

👆 微信搜索「**Wesley AI 日记**」关注。不错过每一篇更新。

---