简介这是一份基于ChatGPT实现可控文本生成的学习型代码包面向正在学习大语言模型应用开发的初学者也适合高校课程设计或毕业设计的起步参考。资源围绕ChatGPT文本生成中的控制与优化展开提供多个Python源码文件与一份Markdown使用说明代码采用模块化组织便于理解调用逻辑与后续扩展。压缩包内共有6个文件其中5个为py源码1个为md说明文档整体体积仅7KB结构精简、轻量易读源码与说明文档互相配套便于对照学习。目前已有50人学习下载可作入门级实战样本。借助源码加说明读者可以快速掌握ChatGPT接口调用、参数调整、文本后处理等关键环节并了解如何通过构造提示或设置控制参数影响生成结果进而基于已有代码灵活改造结合自身项目需求完成可控文本生成任务节省从零搭建的时间是实用价值较高的AI文本生成学习资料。1. 可控文本生成的真正瓶颈让 ChatGPT 在约束里发挥一个很反直觉的现象同样一句 Prompt加了一个换行符输出风格可能从“简短有力”变成“长篇大论”。这不是模型蠢而是可控文本生成的本质——概率采样。标题里的“基于 ChatGPT 的可控文本生成”拆开看就是用 Prompt、参数和解码策略把模型下一次采样的概率空间收敛到业务可接受的范围内。很多开发者拿到一个 zip 资源包第一反应是找现成脚本但脚本只能复现作者当时的环境真正能迁移到你项目里的是控制思路。下面这套思路围绕 ChatGPT 文本生成项目最常见的三类任务摘要、模板填充、结构化抽取讲清楚参数、Prompt、后校验怎么配合。适合正在用 ChatGPT API 做自动化内容生成却被随机性折磨得反复调 Prompt 的开发者。2. 参数控制与 Prompt 结构ChatGPT 可控文本生成的底层逻辑ChatGPT 的生成不是一个词一个词地“查字典”而是每步都在一个候选词概率分布上采样。温度temperature和高概率采样阈值top_p直接决定这个分布被压平还是被削尖。可控文本生成本质上是两件事第一把概率分布的峰值移动到想要的那组词上第二在采样结果不符合要求时有办法发现并修正。后者往往比前者更便宜。2.1 温度与 Top-p理解随机性的两个阀门temperature 控制的是 softmax 的平滑程度。取值越低概率高的 token 越容易被选中输出越确定取值越高低概率 token 也有机会冒出来输出越发散。top_p 控制的是“只从累计概率超过 p 的候选里采样”它和 temperature 不是同一维度的东西但都能限制随机性。参数作用文本生成项目典型值注意temperature调整概率分布峰值摘要 0.2~0.4创意文案 0.6~0.9调太高会跑题top_p截断低概率候选0.8~0.9与 temperature 一起调时通常固定一个max_tokens限制输出长度任务相关建议按最短可接受长度截断导致 JSON 语法错误frequency_penalty对重复 token 惩罚0.1~0.5太高会让句子碎片化提示不要同时把 temperature 和 top_p 都推到底那样要么输出复读机要么输出混乱。通常固定 top_p0.9只调 temperature 就够了。比如生成客服回复候选时temperature 0.7 能给出三条不同语气的话但提取工单号时temperature 超过 0.3 就容易出现幻觉性数字。所以在同一套项目里参数本身应该是可配置的而不是写在方法体里。2.2 Prompt 的空间限定写法把任务装进上下文Prompt 是成本最低的控制器。常见的空间限定写法是先声明角色再给任务再给约束最后给示例。示例不是可选的它相当于给模型一个“输出锚点”。你是一名数据分析师负责将用户反馈整理成结构化记录。 任务从以下反馈中抽取“问题类型、严重程度、建议方案”。 约束只输出以下格式 {问题类型:...,严重程度:高/中/低,建议方案:...} 示例 输入页面加载超过5秒很耽误事。 输出{问题类型:性能,严重程度:高,建议方案:优化接口响应时间} 现在输入{user_input}逻辑说明第一行限定角色第二行说明任务第三行与第五行约束格式示例提供“输入输出对”让模型模仿。参数说明{user_input}是实际内容插入位置可以用 Python 的.format()填充也可以直接 f-string。注意这段 Prompt 里不要放太多“不要做 x”的内容否则模型会花更多注意力在那上面。应该用“只输出”正向限定。如果任务包含多个输出要求可以把示例从 1 组增加到 2~3 组但每组示例不要超过 50 字否则会挤压上下文空间。2.3 system/user/assistant 三段式角色、指令、示例的职责边界在 ChatGPT 的 API 调用里messages 数组里三个角色的职责最好分开。system 负责全局约束user 是任务入口assistant 不是必须的但它可以用来展示“理想输出”效果比在 user 里塞示例更贴近预期。messages [ {role: system, content: 你是客服质检员输出必须是合法的 JSON不要添加额外解释。}, {role: user, content: 请判断下列对话是否存在违规承诺\n客户保证退款}, {role: assistant, content: {\违规\: true, \类型\: \无效承诺\}}, {role: user, content: 请判断下列对话\n客户我们会尽快处理。} ]代码后逻辑说明通过 assistant 示例告诉模型“同一任务的预期输出是什么样子”比在 user 里写“例如”更接近 ChatGPT 训练时的对话分布。参数说明system 的内容会被持久保留在上下文中因此不要放与当前任务无关的东西会占 tokenassistant 示例实际上会被当作历史对话的一部分参与采样。这段代码也展示了“少样本学习”的轻量形态。可控文本生成项目里样本数量不需要多同一任务 2 到 3 个 assistant 片段就足够建立输出锚点。如果增加到 5 个以上边际收益会明显下降还会增加成本。3. 用 ChatGPT API 搭建可控文本生成项目的最小工程有了上一章的参数与 Prompt 设计这一章落成一个可运行的 Python 工程。常见做法是使用 OpenAI 官方 Python SDK项目里不需要引入重型框架一个 generate 函数加一个模板目录就够了。3.1 依赖准备与项目目录结构安装 openai 库建议先创建虚拟环境。下面命令在 Linux/macOS 下适用mkdir chatgpt-controlled-textgen cd chatgpt-controlled-textgen python -m venv .venv source .venv/bin/activate pip install openai python-dotenv逻辑说明用虚拟环境隔离依赖python-dotenv 用来读取本地的 .env 文件避免 API Key 硬编码进代码。参数说明source .venv/bin/activate在 Windows 下对应的命令是.venv\Scripts\activate这是跨平台常见坑如果安装过程出现网络错误优先检查 pip 版本和源配置。工程目录保持简单chatgpt-controlled-textgen/ ├── .env ├── generate.py └── prompts/ └── summary.txt.env 文件长这样OPENAI_API_KEYsk-xxxx。再把模型名放进环境变量便于切换环境变量示例值说明OPENAI_API_KEYsk-xxxxAPI 密钥OPENAI_MODELgpt-4o-mini模型名按账号可用范围改这里要注意环境变量不能提交进 git 仓库.env要写进.gitignore避免把密钥带到 CI 或协作分支里。3.2 一个可运行的 ChatGPT 文本生成函数在 generate.py 中写核心函数# generate.py import os from openai import OpenAI from dotenv import load_dotenv load_dotenv() client OpenAI(api_keyos.getenv(OPENAI_API_KEY)) def generate(prompt, system_prompt, temperature0.3, max_tokens512, top_p0.9): messages [] if system_prompt: messages.append({role: system, content: system_prompt}) messages.append({role: user, content: prompt}) response client.chat.completions.create( modelos.getenv(OPENAI_MODEL, gpt-4o-mini), messagesmessages, temperaturetemperature, max_tokensmax_tokens, top_ptop_p, ) return response.choices[0].message.content.strip() if __name__ __main__: result generate( 把下面这段日志转成一个短语概括\n2024-05-11 10:03:22 用户点击结算接口持续超时最终下单失败。, system_prompt你是稳定性工程师只输出 10 字以内的结论。, ) print(result)逻辑说明generate函数把 system_prompt 作为可选参数方便同一个函数处理不同任务load_dotenv()会在进程启动时读取项目根目录的 .env 文件。参数说明temperature0.3适合日志摘要这种确定性任务max_tokens512是输出上限不是目标长度设置太大会变慢太小会导致 JSON 截断top_p0.9作为备用开关在需要更高确定性时可以替代 temperature 调优。第一次运行前可以在终端执行python generate.py验证连通性。如果返回空字符串优先检查系统提示词里的“只输出结论”是否把模型限制到不愿说人话如果报错信息是超时再看 max_tokens 和网络状态。3.3 将 Prompt 模板化把控制点从代码里拆出来Prompt 和代码混在一起时每次改一句话都要改代码、重新部署。我自己一般会把 Prompt 放到独立模板文件例如 prompts/summary.txt你是{role}。 请完成{task}。 要求{constraint} 输入{input} 输出然后在 Python 中读取并填充# load_prompt.py from pathlib import Path def load_prompt(template_path, **kwargs): template Path(template_path).read_text(encodingutf-8) return template.format(**kwargs) prompt load_prompt( prompts/summary.txt, role稳定性工程师, task把日志转成一个短语概括, constraint不超过 10 字, input2024-05-11 10:03:22 用户点击结算接口持续超时最终下单失败。, )代码后逻辑说明用Path.read_text读取模板避免手写文件编码问题**kwargs能处理不同模板的差异字段。参数说明template_path用相对路径时建议始终从项目根目录启动进程否则容易碰到 FileNotFoundErrorencodingutf-8在 Windows 上必须显式指定否则中文模板可能按 GBK 读取。模板化的好处是Prompt 的版本可以进入 git 管理。任何一行约束的改动都能通过 diff 看到而不是在代码字符串里找半天。4. 约束解码与结果校验把生成内容锁进业务边界参数和 Prompt 控制的是“大概率”但业务系统需要的是“必须”。比如下游期望 JSON但模型偶尔多输出一行注释JSON 解析就会失败。可控文本生成的最后一道防线是解码约束和结果校验。4.1 用 JSON 模式强制结构化输出OpenAI 的 API 支持response_format参数设为{type: json_object}后模型会被要求输出合法 JSON。import json from openai import OpenAI client OpenAI(api_keysk-your-key) def generate_json(instruction, schema_example): response client.chat.completions.create( modelgpt-4o-mini, messages[ {role: system, content: f只输出 JSON格式参考{schema_example}}, {role: user, content: instruction}, ], response_format{type: json_object}, # 倾向输出 JSON仍需后续解析校验 temperature0.2, ) text response.choices[0].message.content return json.loads(text)逻辑说明response_format的作用是让采样更倾向于 JSON 标记而不是完全保证因此调用后仍要json.loads做解析校验。参数说明schema_example是示例字符串例如{问题类型:性能}它告诉模型字段名和嵌套结构不要直接传字典因为模板拼的是字符串temperature0.2是为了降低字段名变异的概率。如果模型返回的 JSON 里包含代码块标记比如 json 包裹json.loads会抛错。可以加一个清洗函数把反引号和语言标记剥掉后再解析。4.2 关键词与正则校验生成后的最后一道闸结构化任务建议用正则校验关键字段而不是只靠模型自觉。import re def validate_summary(text, required_fields(问题类型, 严重程度)): if in text: # 去掉代码围栏标记避免 json.loads 报错 text re.sub(r(?:json)?, , text).strip() for field in required_fields: # 粗校验字段名必须出现在输出中 if field not in text: raise ValueError(f缺少字段{field}) return text代码后逻辑说明re.sub删除三反引号并同时清理语言标记field not in text是粗校验只确保字段名出现没有校验字段值是否合法。参数说明required_fields最好由调用方按任务传入让校验规则跟着业务走如果字段值是枚举后续还要用in判断值在白名单内。校验通过后再交给下游。这样可以防止一次非法输出进入后续流程也方便把失败样本收集下来作为 Prompt 反例。4.3 失败重试与自校正让模型自己改错校验失败时最常见的做法是带着错误信息重试一次。这不是死循环而是给模型一个“纠错机会”。for attempt in range(3): try: text response.choices[0].message.content normalize validate_summary(text) data json.loads(normalize) break except (json.JSONDecodeError, ValueError) as exc: print(f第 {attempt1} 次尝试失败: {exc}) # 把错误信息追加进下一次请求 instruction f 上一次输出未过校验请修正{exc} else: raise RuntimeError(三次重试仍未通过校验)逻辑说明for...else的 else 在循环正常结束且没有 break 时执行用来抛出最终异常。参数说明重试会占用 token 和延迟三次是常见上限把异常信息拼进 instruction能引导模型观察自己的输出但要注意追加信息不要改变原任务的约束顺序。失败类型直接原因处理方式json.JSONDecodeError多出解释文字或反引号清洗后重试KeyError字段名变化或缺失用示例字段固化模型ValueError内容含禁用词重写 Prompt 或做规则拦截重试机制里更要命的是“假成功”JSON 能解析但字段值乱填。所以要保留样本日志定期抽样看生成质量而不是只看通过率。5. 批量任务中的可控文本生成收敛技巧单次生成可控后批量任务还要面对结果漂移和调用成本。下面三个技巧是收敛批量结果的关键。5.1 固定 seed 与并发重试ChatGPT API 提供 seed 参数配合system_fingerprint可以用来观察系统变更。但 seed 不会从底层消除随机性只能让同一批请求更接近。response client.chat.completions.create( modelgpt-4o-mini, messagesmessages, temperature0.3, seed20250601, # 固定随机种子用于结果对比 ) print(response.system_fingerprint) # 记录模型系统指纹逻辑说明seed传入后服务端会尽量复用同一个采样序列system_fingerprint会返回模型配置指纹若指纹变化之前的结果可能不可复现。参数说明同一 key 下 seed 只对当前模型和参数有效换模型或调 temperature 后 seed 没有意义。5.2 用输出指纹做回归对比把 Prompt 模板版本号和生成参数写入输出元数据后续做结果回归时能快速定位变化来源。meta { prompt_version: v3, # 模板版本号 temperature: 0.3, # 生成参数 seed: 20250601, # 固定随机种子 model: gpt-4o-mini, # 模型名 }参数说明prompt_version和model是必填项temperature和seed用于复现时对齐环境。这样当批量结果出现长尾异常时先筛 prompt_version 和 model 是否一致避免把所有问题都归到偶然随机上。如果同一版本下结果漂移明显再去看 system_fingerprint。5.3 一个轻量的批量验证脚本最后给一个实用的验证脚本验证一组输出是否都是合法 JSONimport json from concurrent.futures import ThreadPoolExecutor def single_validate(item): try: data json.loads(item[output]) return item[id], True, data except json.JSONDecodeError: return item[id], False, item[output] # 保留原始文本用于排查 with ThreadPoolExecutor(max_workers4) as pool: results list(pool.map(single_validate, items)) failed_ids [rid for rid, ok, _ in results if not ok]代码后逻辑说明ThreadPoolExecutor用 4 个线程并发做 JSON 解析瓶颈是 API 延迟所以这里只是本地校验不并发调 API。参数说明max_workers4是保守值如果校验逻辑涉及 IO可以提高到 8但不要超过 CPU 核心数的两倍。批量结果在启动时被快速筛掉非法输出后把 failed_ids 按比例记录成指标。如果failed_ids占比超过 5%优先回查 Prompt 版本和模型指纹而不是继续调 seed。本文还有配套的精品资源点击获取