新闻详情

新闻详情

首页 / 资讯中心 / 详情

strands-agents Python SDK v0.1.7 技术解读:ContentBlock 缓存点、会话管理接口与模型层健壮性升级

发布时间:2026/11/16 13:15:59来源:尧图网络
strands-agents Python SDK v0.1.7 技术解读:ContentBlock 缓存点、会话管理接口与模型层健壮性升级
人工智能大模型AI AgentAgent 框架多智能体工具调用MCP 服务【免费下载链接】harness-sdkBuild an agent harness and control it end-to-end. Open-source SDK for production AI agents in Python TypeScript - any model, any cloud.项目地址https://gitcode.com/GitHub_Trending/sdkpython13/harness-sdk点击查看免费下载导读本文围绕 strands-agents Python SDK 0.1.7 版本发布日期 2025-06-09的核心变更展开重点剖析三个技术主题ContentBlock新增的CachePoint提示缓存类型、会话管理器Conversation Manager接口重构以及 OpenAI 模型提供者对空响应等异常场景的健壮性修复。通读本文后你将掌握如何在系统提示词与消息内容中声明缓存点、理解会话管理器apply_management/reduce_context双职责接口的设计逻辑并了解深层嵌套 JSON Schema 在严格模式下的保留机制——这些能力直接对应本版本中 15 项功能与修复类变更可用于评估升级成本并正确使用新 API。版本概览v0.1.7 变更全景site/src/content/changelog/sdk/python-v0.1.7.md记录了本版本的全部变更条目类型覆盖feat、fix、refactor、test、chore与other且全部为**非破坏性breaking: false**变更意味着升级到该版本不会破坏现有调用方式。按技术领域划分主要变更集中在领域变更类型模型类型ContentBlock新增CachePoint类型定义PR 142feat模型层处理模型返回的不支持内容类型PR 144other模型层修正工具结果tool result内容格式PR 154other模型层OpenAI 提供者处理空choices响应PR 185fix会话管理更新会话管理器接口PR 161refactorAgent修复默认回调处理器PR 170otherSchema保留深层嵌套 schema 结构PR 133fixMCP无会话场景下增强 MCP 工具错误提示PR 175chore测试测试中正确设置 OTEL 环境变量PR 169testCI工作流权限块调整PR 166/172/186chore本版本还迎来了四位新贡献者seyeong-han、lukehau、mrityunjayshukla与dbschmigelski。CachePoint为 ContentBlock 引入提示缓存点类型定义一个 TypedDict 承载缓存配置PR 142 为ContentBlock新增了CachePoint类型。在 strands-py/src/strands/types/content.py 中该类型被定义为一个TypedDictclass CachePoint(TypedDict): A cache point configuration for optimizing conversation history. Attributes: type: The type of cache point, typically default. ttl: Optional cache TTL duration (e.g. 5m, 1h). Supported by providers that accept Anthropic-compatible cache_control fields. type: str ttl: NotRequired[str]两个字段的语义type缓存点类型通常取default。从源码注释看SDK 内部仅在type default时才将该块识别为缓存点ttl可选缓存存活时长例如5m、1h。它只在「接受 Anthropic 兼容cache_control字段」的提供者如 LiteLLM 桥接的 Anthropic 系模型上生效。在消息结构中的挂载位置CachePoint被挂载到两类块上。第一类是通用内容块ContentBlockcontent.py#L80-L107它本身是一个totalFalse的TypedDictcachePoint与其audio、image、text、toolUse等字段并列class ContentBlock(TypedDict, totalFalse): audio: AudioContent cachePoint: CachePoint # ← 新增 document: DocumentContent guardContent: GuardContent image: ImageContent reasoningContent: ReasoningContentBlock text: str toolResult: ToolResult toolUse: ToolUse video: VideoContent citationsContent: CitationsContentBlock第二类是系统提示词专用的SystemContentBlockcontent.py#L129-L138同样支持cachePointclass SystemContentBlock(TypedDict, totalFalse): cachePoint: CachePoint text: str由此SystemPrompt联合类型被扩展为str | list[SystemContentBlock] | None即系统提示词既可以继续使用普通字符串向后兼容也可以升级为「带缓存点声明的内容块列表」。系统提示词拆分split_system_prompt当以内容块形式传递系统提示词时SDK 需要同时满足两类提供者的诉求。split_system_promptcontent.py#L145-L166将统一的系统提示词拆分为Model.stream()需要的双字段形式输入为字符串时返回(string, [{text: string}])输入为列表且含text块时将各文本块用换行拼接为字符串同时保留原始列表输入为列表但不含text块例如只有cachePoint的纯缓存标记块时字符串部分返回None仅保留列表输入为None时双字段均返回None。这种设计保证了「带缓存点的系统提示词」既能被stream()按内容块消费又为仍期望system_prompt: str的旧提供者保留了文本形态。提供者侧的落地LiteLLM 的 cache_control 转换CachePoint并非 SDK 内部的空壳类型LiteLLM 提供者在 strands-py/src/strands/models/litellm.py#L227-L241 中实现了完整的转换逻辑for block in system_prompt_content or []: if text in block: system_content.append({type: text, text: block[text]}) elif cachePoint in block and block[cachePoint][type] default: # Apply cache control to the immediately preceding content block # for LiteLLM/Anthropic compatibility if system_content: cache_control: dict[str, Any] {type: ephemeral} if ttl : block[cachePoint].get(ttl): cache_control[ttl] ttl system_content[-1][cache_control] cache_control关键实现细节当遇到type default的缓存点块时SDK 不会新增消息内容而是把cache_control{type: ephemeral}可选附带ttl附着到紧邻的前一个文本块上这正是 Anthropic 风格缓存断点的标准用法——标记「从当前位置开始此前的内容可被缓存」。最终系统消息以单个role: system消息配合内容数组的形式输出而非拆成多条系统消息。对照OpenAI 提供者的不同策略与 LiteLLM 不同OpenAI 的 Chat Completions API 没有缓存点放置旋钮因此OpenAIModel在 strands-py/src/strands/models/openai.py#L424-L426 中遇到cachePoint内容块时会记录警告并跳过该块if cachePoint in content: logger.warning(cachePoint content block is not supported by OpenAI | skipping) continueOpenAI 侧的缓存能力改由cache_config驱动。strands-py/src/strands/models/_openai_cache.py 展示了映射规则cache_key映射为请求中的prompt_cache_key配置值优先False显式退出未设置时回退到strands-session_idttl仅在精确命中 OpenAI 认可的保留字面量in_memory或24h时才映射为prompt_cache_retention其他时长会被忽略并发出警告strategy与system_prompt_ttl被接受但不产生效果。这为你在多提供者环境下配置提示缓存提供了明确的行为边界。会话管理器接口更新抽象基类与主动压缩PR 161 更新了会话管理器接口。当前形态的核心是抽象基类ConversationManagerstrands-py/src/strands/agent/conversation_manager/conversation_manager.py它实现了HookProvider协议职责被明确定义为溢出恢复与主动压缩两条路径apply_management(agent)抽象方法就地处理会话历史执行消息裁剪、摘要或滑动窗口等规模管理策略reduce_context(agent, e)抽象方法缩减会话历史。两种触发场景在 docstring 中被严格区分——e非空时是响应式reactive溢出恢复实现必须删减足够多的历史以保证下一次模型调用成功e为None时是**主动proactive**压缩属于尽力而为即便未完成删减也不影响模型调用继续。基类构造函数接受proactive_compression参数支持三种取值conversation_manager.py#L65-L94True按默认阈值DEFAULT_COMPRESSION_THRESHOLD 0.7启用即上下文窗口使用率达到 70% 时触发压缩{compression_threshold: float}指定(0, 1]区间内的自定义阈值越界会抛出ValueErrorFalse/None关闭主动压缩仅保留响应式溢出恢复。启用后基类注册一个BeforeModelCallEvent钩子conversation_manager.py#L112-L144利用event.projected_input_tokens与agent.model.estimate_utilization()估算上下文占用率超过阈值即调用reduce_context(agent)压缩过程发生的异常会被吞掉以保证模型调用仍能继续。子类覆写register_hooks时必须调用基类实现以维持钩子注册链并且所有实现都通过就地修改agent.messages生效。会话持久化方面基类还定义了get_state()/restore_from_session()契约状态以{__name__: 类名, removed_message_count: 计数}的 JSON 可序列化字典保存恢复时校验__name__一致性并还原已移除消息计数。仓库中现存的三个实现——null_conversation_manager.py、sliding_window_conversation_manager.py与summarizing_conversation_manager.py见 strands-py/src/strands/agent/conversation_manager/均遵循该接口。模型层健壮性空 choices、不支持内容与工具结果修正OpenAI 空 choices 的防御处理PR 185 修复了 OpenAI 提供者对空响应体的处理。在 strands-py/src/strands/models/openai.py#L749-L752 的流式循环中SDK 对缺失choices的事件做了防御性跳过async for event in response: # Defensive: skip events with empty or missing choices if not getattr(event, choices, None): continue此前这类事件可能导致event.choices[0]访问越界或触发AttributeError现在它们会被静默跳过流式解析得以继续直至拿到有效内容块。与之配套的还有format_chunk对未知chunk_type抛出RuntimeError的兜底校验以及错误分类器classify_openai_error见 strands-py/src/strands/models/_openai_errors.py将限流映射为ModelThrottledException、上下文溢出映射为ContextWindowOverflowException的异常规范化。不支持内容类型与工具结果内容PR 144 与 PR 154 围绕内容类型收敛做了两处修正。其一format_request_message_contentopenai.py#L163-L204只接受document、image、text三类块遇到其他类型抛出TypeError: content_type... | unsupported type并附带类型名便于定位。其二format_request_tool_messageopenai.py#L226-L277在组装工具结果时会把相邻文本块用换行合并为单个字符串以兼容 Kimi K2.5、vLLM、Ollama 等 OpenAI 兼容端点当结果中包含图片/文档等非文本内容时则保留数组格式并通过_split_tool_message_images将图片迁移到新的 user 消息OpenAI API 仅允许图片出现在 user 角色消息中。深层嵌套 Schema 的保留PR 133 修复了严格模式对深层嵌套 schema 的破坏问题。strands-py/src/strands/models/_strict_schema.py 中的ensure_strict_json_schema在启用strict: true时对工具定义执行递归转换其处理范围明确覆盖$defs、definitions、anyOf、allOf、items与$ref节点先递归处理$defs/definitions定义块再逐属性施加additionalProperties: false等严格约束当$ref指向的定义需要被内联时内联后的 schema 会被重新施加一次严格转换。这一递归策略保证了多级嵌套的引用 schema 在严格化过程中不被遗漏或破坏——对使用复杂工具输入结构的 Agent 尤为关键。Agent 与 MCP 生态修复默认回调处理器修复PR 170修复了 Agent 默认回调处理器default callback handler在特定场景下的行为问题保证未显式注入回调时 Agent 仍能按预期输出与上报事件MCP 错误消息增强PR 175当 MCP 工具在缺少会话上下文的情况下被调用时SDK 会输出更具解释性的错误信息帮助开发者快速区分「工具本身失败」与「缺少会话状态」两类错误降低 MCP 集成时的排查成本。测试与工程化改进OTEL 环境变量PR 169测试套件现在会在进程内正确设置OTEL_*环境变量确保 OpenTelemetry 相关的遥测断言不再受外部环境残留变量干扰提升测试可复现性配套地PR 180 处理了最新 OpenTelemetry SDK 升级引发的 mypy 类型错误将其标记为已知忽略项CI 工作流权限PR 166/172/186为 GitHub Actions 工作流补齐最小权限块、移除冗余权限声明、并在call-tst-lint任务中加入权限块遵循权限最小化原则属于仓库工程治理类变更不影响运行时 API。升级建议与总结v0.1.7 的全部变更均标注为非破坏性升级路径清晰。升级后建议重点验证三处行为提示缓存若你在 Anthropic/LiteLLM 链路使用系统提示词可尝试将system_prompt从字符串升级为带cachePoint的内容块列表配合ttl观察缓存命中与成本变化在 OpenAI 链路则改用cache_config的cache_key/ttl注意ttl仅接受in_memory或24h会话管理若自定义了ConversationManager子类需对照新版抽象接口确认apply_management、reduce_context与get_state/restore_from_session的签名及「主动/响应式」语义并可通过proactive_compression参数启用默认 70% 阈值的主动压缩工具调用验证含图片/文档的工具结果在 OpenAI 兼容端点上是否正确拆分到 user 消息以及严格模式下深层嵌套的工具输入 schema 是否完整保留。完整的变更明细可查阅 site/src/content/changelog/sdk/python-v0.1.7.md类型与实现依据则分布在 strands-py/src/strands/types/content.py、strands-py/src/strands/models/ 与 strands-py/src/strands/agent/conversation_manager/ 等源码目录中。赞分享人工智能大模型AI AgentAgent 框架多智能体工具调用MCP 服务【免费下载链接】harness-sdkBuild an agent harness and control it end-to-end. Open-source SDK for production AI agents in Python TypeScript - any model, any cloud.项目地址https://gitcode.com/GitHub_Trending/sdkpython13/harness-sdk点击查看免费下载相关推荐Strands Agents Python SDK v1.55.0 技术解读MCP 2.x 兼容、双向流式会话自愈与 Prompt 缓存体系升级Strands Agents Python SDK v1.55.0 技术解读MCP 2.x 兼容、双向流式会话自愈与 Prompt 缓存体系升级 本文基于仓库人工智能大模型AI AgentAgent 框架多智能体工具调用MCP 服务strands-agents Python SDK v1.30.0 版本解析缓存、会话、工具与取消机制的实战升级strands agents Python SDK v1.30.0 版本解析缓存、会话、工具与取消机制的实战升级 导读 本文基于 strands agents人工智能大模型AI AgentAgent 框架多智能体工具调用MCP 服务strands-agents Python SDK v1.51.0 发布解读工具重命名、批量钩子、快照会话与模型能力升级strands agents Python SDK v1.51.0 发布解读工具重命名、批量钩子、快照会话与模型能力升级 strands agentsstr人工智能大模型AI AgentAgent 框架多智能体工具调用MCP 服务创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/15 4:54:16

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/15 2:04:12

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/14 10:11:15

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/16 6:47:19

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/14 16:35:50

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/15 4:06:36

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉