1. 从「提示词散落各处」到「一条链路跑通」我为什么要折腾这套脚本提示工程这个词很多人第一反应是「写 prompt 的技巧」。但真正落到 Python 自动化脚本里问题会变得具体得多你手上有十几个批量文本处理任务每个任务都要调 LLM每个脚本里都硬编码一份 API Key模型名、超时、重试逻辑各写各的。改一个参数要翻五个文件。我试过最原始的做法——每个脚本顶部写API_KEY sk-xxx结果就是 Key 泄露风险高、换通道要全局搜索替换、新同事接手先问「Key 在哪」。后来把配置抽到config.toml又发现脚本之间调用方式不统一有的用 requests 裸调有的用 SDK报错信息五花八门。这套方案要解决的问题很明确用一份config.toml骨架承载 TaoToken 统一 Key 和 API 通道配置用 Flask 暴露本地接口作为统一入口Python 脚本只负责「读配置 → 拼提示 → 发请求 → 处理结果」。适合谁适合手里有一堆零散 LLM 调用脚本、想收敛成一条可维护链路的开发者也适合想把提示工程从「聊天框里试」变成「代码里跑」的团队。核心检索词先摆出来提示工程驱动的 Python 自动化脚本、TaoToken 统一 Key、Flask 本地接口、config.toml 配置骨架、LLM 批量文本处理。下面从配置到验证一步步来。2. TaoToken 前置统一 Key 与 API 通道到底省了什么在动手写代码前先把「统一 Key」这件事说清楚。传统做法里每个脚本各自持有 Key问题有三个一是轮换 Key 时要改 N 个地方二是不同脚本可能指向不同通道排查问题时不知道请求发去了哪三是本地调试和生产脚本混用同一份硬编码容易误操作。TaoToken 的思路是提供一个统一的 API 入口你只需要在配置里维护一份 Key 和一个 base URL所有脚本通过它来调用模型。官网地址是 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 入口是 https://taotoken.net/api 这个不加 UTM直接作为 base_url 用。你需要提前准备的东西一个 TaoToken 账号登录后在控制台创建 API Key。控制台入口https://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_contentconsoleutm_campaignrewrite确认你要用的模型名称比如对话类、代码类模型对话页可以先用网页版试一下提示词效果https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_contentmodelsutm_campaignrewrite如果你后续要做长期编码或 Agent 类任务可以了解 Coding Planhttps://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite注意Key 只放在本地config.toml里不要提交到 Git。建议把config.toml加入.gitignore仓库里只保留config.example.toml。这一步不需要写代码但它是后面所有脚本能跑通的前提。Key 拿到后先别急着写 Flask我们先把配置骨架搭好。3. 可复制配置config.toml 骨架与 Flask 路由设计3.1 config.toml 骨架先建一个项目目录结构如下llm-pipeline/ ├── config.toml ├── config.example.toml ├── app.py ├── llm_client.py ├── batch_task.py └── requirements.txtconfig.toml的内容这样写[taotoken] api_key sk-你的TaoToken密钥 base_url https://taotoken.net/api default_model gpt-4o-mini timeout 60 max_retries 3 [server] host 127.0.0.1 port 5000 debug true [prompt] system_role 你是一个严谨的文本处理助手只输出处理结果不要额外解释。 batch_size 10config.example.toml就是把api_key换成占位符方便别人 clone 后知道要填什么。读取配置用 Python 3.11 自带的tomllib不用额外装包# llm_client.py import tomllib from pathlib import Path import requests def load_config(path: str config.toml) - dict: with open(path, rb) as f: return tomllib.load(f) class LLMClient: def __init__(self, config: dict): self.cfg config[taotoken] self.prompt_cfg config[prompt] def chat(self, user_text: str, model: str | None None) - str: model model or self.cfg[default_model] url f{self.cfg[base_url]}/v1/chat/completions headers { Authorization: fBearer {self.cfg[api_key]}, Content-Type: application/json, } payload { model: model, messages: [ {role: system, content: self.prompt_cfg[system_role]}, {role: user, content: user_text}, ], temperature: 0.3, } last_err None for attempt in range(self.cfg[max_retries]): try: resp requests.post( url, headersheaders, jsonpayload, timeoutself.cfg[timeout] ) resp.raise_for_status() data resp.json() return data[choices][0][message][content].strip() except Exception as e: last_err e raise RuntimeError(fLLM 调用失败: {last_err})这里有几个设计点值得说明。base_url直接指向 TaoToken 的 API 入口后面拼/v1/chat/completions这是兼容 OpenAI 格式的通用路径。max_retries放在配置里而不是写死是因为不同任务的容错要求不一样——批量处理可以多试几次实时接口可能只试一次就返回错误。3.2 Flask 路由骨架app.py暴露两个接口一个健康检查一个批量处理入口。# app.py from flask import Flask, request, jsonify from llm_client import load_config, LLMClient app Flask(__name__) config load_config() client LLMClient(config) app.route(/health, methods[GET]) def health(): return jsonify({status: ok, model: config[taotoken][default_model]}) app.route(/process, methods[POST]) def process(): body request.get_json(forceTrue) texts body.get(texts, []) if not texts: return jsonify({error: texts 不能为空}), 400 results [] for t in texts: try: out client.chat(t) results.append({input: t, output: out, ok: True}) except Exception as e: results.append({input: t, output: str(e), ok: False}) return jsonify({count: len(results), results: results}) if __name__ __main__: srv config[server] app.run(hostsrv[host], portsrv[port], debugsrv[debug])requirements.txt只需要两行flask requests到这里配置和路由骨架就齐了。接下来是脚本调用示例和端到端验证。4. 验证请求启动服务、发请求、核对返回4.1 启动服务cd llm-pipeline pip install -r requirements.txt python app.py看到类似输出说明启动成功* Running on http://127.0.0.1:5000 * Debug mode: on4.2 先打健康检查curl http://127.0.0.1:5000/health预期返回{status: ok, model: gpt-4o-mini}如果这里就报错说明配置读取或 Flask 启动有问题先别往下走。4.3 发一个批量处理请求curl -X POST http://127.0.0.1:5000/process \ -H Content-Type: application/json \ -d {texts: [把这句话改得更正式这个方案我觉得还行, 提取关键词机器学习、提示工程、自动化脚本]}预期返回结构{ count: 2, results: [ {input: ..., output: 该方案具有可行性。, ok: true}, {input: ..., output: 机器学习提示工程自动化脚本, ok: true} ] }4.4 用 Python 脚本调用批量任务示例batch_task.py演示从文件读一批文本逐条发给本地 Flask 接口# batch_task.py import requests API http://127.0.0.1:5000/process def run_batch(lines: list[str]): resp requests.post(API, json{texts: lines}, timeout120) resp.raise_for_status() data resp.json() for item in data[results]: flag OK if item[ok] else FAIL print(f[{flag}] {item[input][:30]} - {item[output][:60]}) if __name__ __main__: samples [ 把这句话改得更正式这个方案我觉得还行, 提取关键词机器学习、提示工程、自动化脚本, 把下面内容翻译成英文今天天气不错, ] run_batch(samples)运行python batch_task.py如果三条都返回[OK]说明从config.toml读 Key → Flask 路由 → LLMClient 调 TaoToken → 返回结果这条链路已经打通。这就是一次完整的端到端验证动作启动服务 → 发请求 → 核对返回。5. 本篇常见错排查从 401 到超时逐条对5.1 返回 401 或「invalid api key」最常见的原因是config.toml里的api_key没填对或者复制时带了空格。检查方法打印一下 Key 的长度和前后字符。cfg load_config() print(repr(cfg[taotoken][api_key][:8]), len(cfg[taotoken][api_key]))如果长度明显不对重新去控制台生成一个https://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi-keysutm_campaignrewrite5.2 返回 404 或「model not found」模型名写错了。default_model要和通道支持的模型名一致。先去模型对话页确认可用模型https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_contentmodelsutm_campaignrewrite5.3 请求超时批量任务里单条文本太长或者网络抖动。把timeout从 60 调到 120同时确认max_retries至少为 2。如果还是超时把批量拆小batch_size从 10 降到 5。5.4 Flask 启动报「Address already in use」5000 端口被占用。改config.toml里的port 5001或者先杀掉占用进程lsof -i :5000 kill -9 PID5.5 tomllib 导入失败tomllib是 Python 3.11 才进标准库的。如果你用的是 3.10 或更早装tomli并改导入try: import tomllib except ModuleNotFoundError: import tomli as tomllib5.6 返回内容为空有些模型对 system prompt 敏感或者temperature太低导致输出被截断。先把temperature调到 0.7 试一次确认不是提示词问题。如果还是空检查data[choices]的结构是否和预期一致打印原始resp.text看看。提示排查时优先看 Flask 控制台日志requests抛出的异常会带状态码和响应体比猜快得多。6. 把这条链路用起来从单脚本到可维护的提示工程管线走到这里你手上有的不只是一个能跑的 Flask 服务而是一套可复制的骨架config.toml管配置LLMClient管调用和重试app.py管接口batch_task.py管批量任务。新增一个文本处理任务只需要在prompt段加一条 system_role或者扩展/process路由支持不同的提示模板。如果你后续要做更复杂的编码类任务比如让脚本自动生成代码片段、做代码审查可以看看 Coding Plan 的用法https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite 。接入细节和参数说明在文档里https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 。ClaudeCode 相关的接入方式也有单独页面https://taotoken.net/claudecode-anthropic?utm_sourcetaotoken_aicg_blog_endutm_contentclaudecode-anthropicutm_campaignrewrite 。最后留一个我踩过的坑config.toml里的base_url不要写成带/v1的完整路径因为LLMClient里已经拼了/v1/chat/completions重复会导致 404。保持base_url https://taotoken.net/api就好。