LLM 天生擅长生成自然语言文本，但当需要把它的输出接入程序逻辑时自由文本就变成了障碍。你需要的是一个可以 JSON.parse 的结构化对象，而不是一段散文。

者痛点汇总

• JSON 解析错误频发: 模型在返回前后往往加上解释文字或出现尾部逗号、注释等非法字符。
• 重复编写容错代码: 需要手写正则、try‑catch、兜底逻辑，占用大量工程时间。
• 缺乏可验证性: 即使格式正确，模型仍可能返回“幻觉”字段或语义错误的数据。
• 调试成本高: 每一次解析失败都要追踪模型日志、重跑请求，导致上线周期拉长。
• 维护成本上升: 因为业务场景增多。prompt 和 schema 必须同步更新，否则易出错。

这篇文章以 ChatCrystal 的两个真实场景为例。介绍两种让 LLM 输出结构化 JSON 的方案，并针对上述痛点提供实战解决思路。

从方案一来看，Prompt 约束 + 后处理

至于优点。兼容任何模型 至于缺点，LLM 不一定严格遵守格式，需要额外的容错逻辑。

典型流程：

• #1️⃣ Prompt 明确要求 JSON 格式：
• #2️⃣ 在代码中提取 JSON 块并解析：
• #3️⃣ 捕获异常并重试或记录错误。

// 从 LLM 响应中提取 JSON
const jsonMatch = rawResponse.match;if {
const result = JSON.parse;}

**问题明显**：

• LMM 前后可能加解释文字；
• 尾部逗号、注释等非法字符；导致必需大量 try-catch 与正则兜底；说起来，
  
• `maxRetries` 并非自动实现。需要自行编写循环逻辑，

方案二这方面，AI SDK 的 generateObject

再看主要优势。

• Zod Schema 定义数据结构 & 自动类型推断；SDK 将 Schema 转为 JSON Schema 并注入到 prompt 中；模型返回会经过 Zod 校验；验证失败自动重试，怎么说呢，
  

基本用法示例

// 定义 schema
import { generateObject } from 'ai';import { z } from 'zod';const MySchema = z.object({
至于title。z.string,score: z.number.min.max,});// 调用 generateObject
const { object } = await generateObject({
至于model，getLanguageModel。schema: MySchema,system: '你是一个评分助手',prompt: '请对下面内容打分：...',maxRetries: 3,});// 使用结果
console.log;// string
console.log;// number

generateObject 背后做了什么？老实说，

• Schemas → JSON Schema;
• Merged into structured‑output / function‑calling API;
• Zod 校验 → 合法才返回;按理说，
• `maxRetries` 自动触发重试；

Zod Schema 定义输出格式细节

Zod 是 TypeScript 世界里最常用的运行时校验库。用它既能在编译期得到类型推断，又能在运行时验证数据合法性。下面是 ChatCrystal 摘要生成所用 schema 示例：

const SummarizeSchema = z.object({
title这方面，z.string.describe,key_conclusions: z.array).describe。code_snippets: z.array(
z.object({
language : z.string,code : z.string,description:z.string
})
).describe,tags : z.array).describe
});

枚举与数值约束实践

"关系发现" 场景中加入了更多技巧，例如限定枚举值和数值范围，以避免拼写错误或无效数字：

const RelationElementSchema = z.object({
target_note_id:z.number.describe。relation_type:z.enum().describe,confidence:z.number.min.max
.describe,description:z.string
.describe
});

System Prompt 设计技巧

"schema" 定义"输出什么格式",而 system prompt 则约束"输出什么内容". 好的 system prompt 能明显提高整体质量。其实，

角色定义 & 写作指导

const SYSTEM_PROMPT =
你是一个技术对话分析专家。
擅长从 AI 编程助手的对话中提炼结构化知识。按理说，;

一句话定位角色与能力边界，让模型快速切换风格与深度。

字段详细说明

`` const SYSTEM_PROMPT = ### 标题 用一句话概括对话主要主题。

摘要 - 决策上下文：

遇到的问题、考虑过方案；实施要点：具体改动，说起来，可复用知识：通用经验

key_conclusions - 最关键结论。每条独立可理解，老实说，

tags - 小写英文标签。如技术栈、问题类型、领域。`，

即便 z.describe 已提供字段说明，用自然语言展开可以进一步效果更好——相当于给模型“写作教程”。

负面约束与边界条件

const SYSTEM_PROMPT = `## 注意事项 - 使用与对话相同语言撰写。- 如果记录标注 “中间省略 N 条消息”，仅基于可见内容。- 技术术语、函数名、包名保留原文，不翻译。`，

负面约束一样关键，它能让模型避免误解上下文。

maxRetries 重试机制

`maxRetries` 参数让 SDK 自动重试不符合 schema 的响应，从而大幅减少手工循环代码。当验证失败时 SDK 会将错误反馈给模型。让其在下一轮尝试修正，更加优雅且节省 token 消耗。

ChatCrystal 配置示例
场景	maxOutputTokens	maxRetries	备注
摘要	800	5	一次性操作。可接受多次重试
关系发现	1200	1	自动触发任务，不宜阻塞队列

输出验证和业务层双重校验

`generateObject` 确保了 **格式** 正确，但语义上的正确性仍需业务层确认。例如 “幻觉 ID” 或 “无意义置信度”。下面展示二次过滤流程：

// 获取原始关系数组
const { object : rawRelations } = await generateObject({
model这方面。getLanguageModel,output:'array',schema : RelationElementSchema,system : RELATIONSYSTEMPROMPT,prompt,maxRetries :1
});

// 二次业务校验 const filteredRelations = rawRelations .filter && rel.confidence>= MIN_CONFIDENCE) .slice;老实说，

• `target_note_id` 是否存在候选列表？
• `confidence` 是否达到阈值？话说回来，
• `length` 是否超过上限？

  ---

完整案例 – 摘要生成流程

js async function summarizeConversation{ const {object} = await generateObject({ model这方面。getLanguageModel,schema:SimplifySchema,system:SYSTEM_PROMPT,prompt : transcript,maxOutputTokens :800,maxRetries :5 });

// 后处理统一小写标签及去除空字符串 return { ...object,tags:Object.keys=>{acc=true;return acc},{}))。raw_response :JSON.stringify };}

注意事项 

• *虽然 system prompt 声称“标签为小写”，但模型偶尔仍会返回大写* → 后处理 `toLowerCase` 是确定性的保障。
• *不要把所有责任交给模型* – 始终保留业务层检查。

  ---

完整案例 – 区块链式关系发现流程

js // 请求上下文已包含新笔记 & 已有笔记列表

const {object : rawRelations} = await generateObject({ 从model来看。getLanguageModel,output:'array',// 顶层期望数组而非对象 schema : RelationElementSchema,system : RELATIONSYSTEMPROMPT,prompt,maxOutputTokens :1200,maxRetries :1 // 如失败直接报错避免阻塞队列 });

• `output:'array'` 告诉 SDK 返回顶层数组，而不是 `{relations:}` 更直观。
• `prompt` 本身采用清晰表格式输入，使模型更易遵循 schema。

  ---

Avoid free text where possible—use enums and range limits. ⑥  Select a reasonable `maxRetries`. Excessive retries waste tokens. ⑦  Add deterministic post‑processing .

常用方法 Checklist
#	AWS | Azure | GCP | OpenAI | Claude …，
①	Tighten format constraints via Zod + `.describe`.
②	Create a concise system role message.
③	Add natural‑language field instructions in system message.
④
⑤  Avoid trusting model blindly—add business validation layers.

LMM 与 Embedding 模型不能混用 —— 理解各自职责区分才能建立稳健程序。

👀 开源社区讨论链接 ↪️ github.com/.../issue/...>

• Ollama vs OpenAI vs Claude 摘要横评 — 对比不同厂商在 structured output 上表现差异。

• Vercel AI SDK 官方文档 — generateObject,ai,zod。retry policy.

• 项目地址：https://github.com/ZengLiangYi/chat-crystal

• 有疑问欢迎在 GitHub Issues 或私信交流，很乐意解答。

---

©2026 ChatCrystal Team · All Rights Reserved.)

---