新闻详情

新闻详情

首页 / 资讯中心 / 详情

codex-lb如何追踪Token成本?价格自动同步与成本回填机制完整解析

发布时间:2026/11/15 20:57:05来源:尧图网络
codex-lb如何追踪Token成本?价格自动同步与成本回填机制完整解析
codex-lb如何追踪Token成本价格自动同步与成本回填机制完整解析【免费下载链接】codex-lbCodex/ChatGPT multiple account load balancer proxy with usage tracking, dashboard, and OpenCode-compatible endpoints项目地址: https://gitcode.com/gh_mirrors/co/codex-lbcodex-lb 是一个开源的 Codex/ChatGPT 多账号负载均衡器与反向代理内置Token 用量追踪、成本计算与可视化仪表盘。很多用户最关心的问题就是它如何追踪 Token 成本价格是怎么自动同步的历史缺成本的数据又如何自动回填本文将带你完整解析这套「价格自动同步 成本自动回填」机制无需阅读源码也能看懂。 Token 用量从哪里来codex-lb 的成本追踪建立在请求日志之上。每次请求结束时它会把上游返回的 Token 计数记录下来并且不重新分词、不估算隐藏的推理用量——你看到的数字就是上游真实上报的值。几个关键的计数规则详见 usage-reporting.mdinput_tokens包含完整输入量缓存命中部分作为子集单独上报缓存价格更低output_tokens包含全部输出推理reasoningToken 是它的子集总 Token 输入 输出不会重复累加缓存与推理部分。这样设计的好处是数据可审计、可复核仪表盘上每条请求都能展开看到精确的 Token 构成。 价格如何自动同步成本 Token 数量 × 单价而「单价」是动态变化的。codex-lb 的价格同步机制分为三层1️⃣ 双数据源抓取价格目录会同时从两个公开数据源获取 OpenAI 文本模型的定价models.dev提供基础输入/输出/缓存读取价格以及 priority、flex 服务档service tier和长上下文阶梯价LiteLLM补充缺失的服务档费率与额外模型。两个来源会在本地合并pricing_catalog.py 中的merge_catalogs并做严格的字段校验——不完整、非有限数或缺少长上下文阈值的条目会被直接丢弃绝不让脏数据进入计费。2️⃣ 每小时定时刷新后台的元数据刷新调度器metadata_scheduler.py每隔1 小时拉取一次最新价格成功后立即安装到内存目录并把快照写入磁盘缓存pricing-cache.json失败后5 分钟重试一次期间继续使用上次成功加载的价格。3️⃣ 三级容灾回退即使上游全部宕机成本计算也不会中断回退链如下优先级来源说明1内存价格目录运行时的最新快照2磁盘缓存上次成功抓取的pricing-cache.json3内置快照随代码分发的 pricing_snapshot.json 与硬编码默认价pricing.py内置快照与默认价由每日自动化工作流维护提交可审查的 PR 更新运维人员不需要额外配置 API Key。 成本回填历史数据缺成本怎么办这是最容易忽略但最精妙的部分。设想这种情况某次请求发生时该模型的价格还没进入目录或价格源当时不可用这条日志的成本只能留空。那么价格到位之后谁来补账答案是一个幂等的分批回填器cost_backfill.py✅触发条件每当价格目录发生变化调度器立即把回填游标归零启动全量扫描✅分批小步走每次只处理200 条上限 1000以自增 ID 为游标推进重启后从 0 开始扫也完全安全✅幂等标记成本字段为NULL即为「待补」的持久标记已补的成本包括 0绝不会被覆盖✅聚合同事务修正回填某条日志成本的同时在同一事务内把账户累计、API Key 累计、小时/15分钟/报表聚合桶一起加上对应金额——仪表盘、报表、账户、API Key 四处数字永远一致✅多副本安全回填任务通过领导者选举执行多副本部署下只有一个副本在干活✅尊重保留策略只从不违反数据保留的范围内重建已经被清理的原始日志不会强行还原聚合桶的永久累加和也保持不变。一句话总结价格一变账自动补齐且不会重复补、不会补错。️ 在仪表盘上如何查看Request Logs请求日志Token 单元格显示总量下方标注缓存命中与推理明细展开 Details 可见精确构成Reports报表展示所选时间范围与筛选条件下的推理总量与覆盖数量支持按日拆分和 CSV 导出Accounts / API Keys累计成本随回填实时修正无需手动刷新。缺失值始终以—显示而非伪造为 0——codex-lb 坚持「未知就是未知」的数据原则。 相关模块与文档路径速查内容路径用量上报与定价规则文档docs/usage-reporting.md内置默认价格表app/core/usage/pricing.py价格目录抓取与合并app/core/usage/pricing_catalog.py内置价格快照app/core/usage/pricing_snapshot.json元数据刷新调度器app/core/usage/metadata_scheduler.py成本回填实现app/modules/request_logs/cost_backfill.py数据库模型定义app/db/models.py小结codex-lb 的 Token 成本追踪是一套「真实上报 自动同步 自动补账」的完整闭环用量真实——只记录上游上报的 Token 计数不重算、不估算价格鲜活——双源抓取、每小时刷新、三级容灾回退账单自愈——价格到位后自动分批回填历史成本多处聚合同事务修正。对于管理多个 Codex/ChatGPT 账号的团队来说这意味着你无需任何人工干预就能在仪表盘上拿到一份持续准确、可审计的成本账本。【免费下载链接】codex-lbCodex/ChatGPT multiple account load balancer proxy with usage tracking, dashboard, and OpenCode-compatible endpoints项目地址: https://gitcode.com/gh_mirrors/co/codex-lb创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/15 4:54:16

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/15 2:04:12

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/14 10:11:15

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/14 17:14:38

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/14 16:35:50

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/15 4:06:36

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉