结构化输出Structured Output / JSON Mode指强制 LLM 按预定义 schema 输出而不是自由文本。实现方式JSON Mode模型保证输出合法 JSON但字段结构仍需校验Function/Tool Calling模型输出结构化的tool_call函数名 参数对象由框架解析执行Constrained Decoding / Grammar在解码阶段用正则/CFG 约束 token硬保证输出完全符合 schema如 OpenAI 的response_format、Anthropic 的 tool use、Outlines/Instructor 等核心价值把模型输出从不可靠的自然语言变成可被程序直接解析的数据。在 Agent 工具调用中为什么重要1. 工具调用依赖严格契约Agent 要执行search_db(sql...)、send_email(to...)参数必须是合法 JSON。自由文本里混入一个多余逗号、引号或字段名拼错解析就失败整个链路中断。2. 减少幻觉工具名 / 非法参数约束解码能杜绝模型编造不存在的函数名或非法枚举值从源头降低调用失败率。3. 可编程、可校验、可重试输出可直接json.loads/ schema 校验无需正则硬抠。校验失败可精准定位字段并触发局部重试只重生成错误字段而非整段重来。便于接入类型系统Pydantic、Zod把模型输出当强类型数据用。4. 支撑多步闭环的稳定性Agent 是链式决策前一步输出是后一步输入。结构化输出保证每步的接口稳定误差不会因格式漂移而累积放大。5. 安全与审计结构化输出可被 guardrail 规则检查如action 字段是否在白名单内也便于记录 trace 做审计。一句话结构化输出把 LLM 从会说话的组件变成可编程的组件——Agent 工具调用本质是程序与模型的接口只有输出可解析、可校验、可重试多步闭环才能稳定可靠地跑起来。