新闻详情

新闻详情

首页 / 资讯中心 / 详情

AI Agent成本失控?Google Antigravity SDK预算限制与Token用量监控完全指南

发布时间:2026/11/16 13:15:58来源:尧图网络
AI Agent成本失控?Google Antigravity SDK预算限制与Token用量监控完全指南
AI Agent成本失控Google Antigravity SDK预算限制与Token用量监控完全指南【免费下载链接】antigravity-sdk-pythonA Python library for building AI agents that leverage the full power of Google Antigravity.项目地址: https://gitcode.com/gh_mirrors/an/antigravity-sdk-pythonAI Agent 成本失控是部署智能体时最头疼的问题模型反复调用、工具死循环、超长上下文……账单瞬间飙升。Google Antigravity SDK 是 Google 推出的 Python AI Agent 开发框架内置了会话级**预算限制Budget Limits**和Token 用量监控机制通过一套BudgetConfig配置即可为模型调用次数、工具调用次数和各类 Token 用量设置硬性上限让每一分 API 花费都可控。为什么 AI Agent 成本必须被管控Agent 与传统一问一答的模型调用不同——它在会话中会自主进行多轮推理、反复调用工具一次用户请求背后可能隐藏着几十次模型调用推理级联复杂任务触发多轮思考Token 消耗指数增长️工具死循环Agent 反复重试失败的工具调用如查天气查了 50 次上下文膨胀历史对话累积每次请求的输入 Token 越滚越大Google Antigravity SDK 的应对思路很直接在会话级别设置 5 个预算旋钮超限即停并返回明确的停止原因而不是事后才发现账单爆炸。5 个预算旋钮用 BudgetConfig 一键设定成本上限在 google/antigravity/types.py 中BudgetConfig提供了 5 个可独立开启的限额覆盖次数和Token两个维度预算旋钮限制对象适用场景max_model_calls会话内模型调用总次数防止推理级联、控制整体成本max_tool_calls会话内工具执行总次数防止工具死循环、保护本地资源max_input_tokens净未缓存输入 Tokenprompt − cached防止超长上下文/大文件灌入max_output_tokens累计输出 Token含思考 Token限制生成内容的总长度max_total_tokens净输入 输出的总 Token最粗粒度的总闸门配置只需一行把它挂到LocalAgentConfig即可config LocalAgentConfig( budget_configtypes.BudgetConfig( max_model_calls10, # 最多 10 次模型调用 max_tool_calls25, # 最多 25 次工具执行 max_input_tokens100_000, # 输入 Token 上限 max_output_tokens20_000, # 输出 Token 上限 max_total_tokens120_000, # 总 Token 上限 ) ) 细节亮点max_input_tokens计算的是净未缓存Token提示词 Token 减去缓存命中 Token开启 Prompt Caching 后预算能花得更久这是控制成本的另一条隐性路径。官方完整示例见 budget_limits.py它逐个演示了 5 个旋钮被触发时的行为配套讲解文档在 budget_limits.md。预算耗尽时会发生什么用 StopReason 精确归因Agent 不会在超预算时悄悄继续跑。每次对话结束后ChatResponse.stop_reason会明确告诉你这轮为什么停止。StopReason枚举定义于 types.py与 5 个预算旋钮一一对应MAX_MODEL_CALLS_EXCEEDED→ 模型调用次数用尽MAX_TOOL_CALLS_EXCEEDED→ 工具执行次数用尽MAX_INPUT_TOKENS_EXCEEDED→ 输入 Token 在发送前被主动拦截省钱的关键不产生无效推理MAX_OUTPUT_TOKENS_EXCEEDED→ 累计输出超限MAX_TOTAL_TOKENS_EXCEEDED→ 总 Token 预算耗尽QUOTA_EXHAUSTED→ 后端 API 配额用尽非你设置的预算UNSPECIFIED→ 正常完成生产环境建议对停止原因做分支处理例如触发预算停止后通知用户本次额度已用完或自动开启新会话res await agent.chat(分析我们的季度财务数据) print(await res.text()) if res.stop_reason types.StopReason.MAX_MODEL_CALLS_EXCEEDED: print(会话模型调用预算已用尽请开启新会话。) elif res.stop_reason types.StopReason.MAX_INPUT_TOKENS_EXCEEDED: print(输入内容过长请在发送前被预算拦截节省了 Token。)这种主动拦截机制意味着预算不仅事后止损还能在推理发生前省钱——尤其是max_input_tokens会在 dispatch 前评估。Token 用量监控UsageMetadata 让你看清每个 Token 花在哪光有限额还不够你还得知道钱花在了哪里。SDK 提供结构化的UsageMetadatatypes.py精确拆解每次模型调用的 Token 构成字段含义prompt_token_count输入提示词 Tokencached_content_token_count其中命中缓存的部分计费更低candidates_token_count生成的回复 Tokenthoughts_token_count思考/推理消耗的 Token容易被忽略的成本total_token_count以上合计service_tier实际服务等级standard / priority三个层级的观测入口满足不同监控粒度单步级每个Step.usage_metadata记录该步骤的模型调用用量单轮级response.usage_metadata汇总当前一轮的全部调用会话级agent.conversation.total_usage累加整个会话的历史总量实现见 conversation.py官方可观测性示例 observability.py 展示了如何打印完整账单usage agent.conversation.total_usage print(f输入 Token: {usage.prompt_token_count}) print(f输出 Token: {usage.candidates_token_count}) print(f思考 Token: {usage.thoughts_token_count}) print(f总 Token: {usage.total_token_count})⚠️ 新手易踩的坑thoughts_token_count是思考模型脑内活动的消耗在深度推理场景下可能占比很高把它纳入成本看板才算完整监控。进阶玩法监控服务等级降级与成本波动使用 Gemini 优先级推理Priority Inference时请求可能在高峰期被自动降级到 Standard 等级。好消息是降级请求按低价计费监控手段也很简单——检查usage_metadata.service_tier是否等于STANDARD。示例 prioritized_inference.py 展示了如何程序化监控服务端降级结合service_tier字段即可在监控面板中区分高价快队列与平价标准队列的实际占比进一步优化成本结构。实用建议新手预算配置清单 场景推荐配置个人开发调试max_model_calls20, max_total_tokens50_000客服/轻量问答max_model_calls10, max_output_tokens4_000代码生成/长任务max_tool_calls50, max_total_tokens200_000高并发生产环境全 5 项开启并对StopReason做告警 自动新会话最后三条黄金法则✅总闸门兜底无论单项怎么配务必设置max_total_tokens作为最终防线✅停止即归因永远检查stop_reason区分正常结束和预算拦截✅看板常态化把total_usage按天聚合成本异常一目了然相关资源速查预算限制完整示例examples/getting_started/budget_limits.pyToken 用量监控示例examples/getting_started/observability.py服务等级降级监控examples/getting_started/prioritized_inference.py预算配置源码定义google/antigravity/types.py官方技能文档skills/google-antigravity-sdk/examples/getting_started/budget_limits.md项目总览与安装说明README.md【免费下载链接】antigravity-sdk-pythonA Python library for building AI agents that leverage the full power of Google Antigravity.项目地址: https://gitcode.com/gh_mirrors/an/antigravity-sdk-python创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/15 4:54:16

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/15 2:04:12

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/14 10:11:15

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/16 6:47:19

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/14 16:35:50

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/15 4:06:36

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉