新闻详情

新闻详情

首页 / 资讯中心 / 详情

Ragent 会话记忆:最近 N 轮 + 持久化摘要如何平衡 Token 成本与上下文

发布时间:2026/9/25 19:33:23来源:尧图网络
Ragent 会话记忆:最近 N 轮 + 持久化摘要如何平衡 Token 成本与上下文
Ragent 会话记忆最近 N 轮 持久化摘要如何平衡 Token 成本与上下文【免费下载链接】ragent企业级 Agentic RAG 智能体 - 全链路覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度思考。面向真实业务场景从 0 到 1 完整工程实现。项目地址: https://gitcode.com/gh_mirrors/ragent1/ragentRagent 是一款企业级 Agentic RAG 智能体其会话记忆模块通过「裁剪 摘要」两道水位门在保证多轮对话上下文完整的前提下把 Token 成本牢牢压在可控范围内。本文将带你快速看懂它的上下文裁剪、持久化摘要与长期记忆注入是怎么工作的。为什么多轮对话的上下文会失控在 Agent 场景里每一轮对话往往不只是一问一答还可能包含多轮工具调用。一次知识库检索返回的原文可能有几万字符这些工具结果是上下文膨胀的头号元凶也是 Token 成本的大头。如果无脑保留全部历史会遇到两个问题成本问题每轮推理都要把历史原文完整发给模型字符越多账单越贵窗口问题上下文逼近模型窗口上限时要么报错要么被粗暴截断丢失关键信息。Ragent 的解法是用字符数作为 Token 的粗代理来统一度量AgentContextChars.java并在每轮推理前按水位自动瘦身让最近 N 轮的原文始终在场、远期内容压缩成摘要。核心预算一个配置项统管全局会话上下文工程的所有阈值都从一个配置派生agent.memory.contextWindowChars默认1,200,000 字符。它的注释写得很直白——换模型只需要动这一个数。注意它不是模型标称窗口填充时需要先扣掉人设、工具 schema、输出预留等固定开销AgentMemoryProperties.java。两道门按固定比例派生水位比例动作裁剪门50%只把过老的工具结果换成占位符压缩门80%裁剪顶不住才用模型做摘要压缩保留段20%压缩切点之后至少保留的原文量 80% 而非 100% 才动手是刻意留了两成余量给压缩过程中那次模型调用自己。第一道门50% 水位裁剪老工具结果裁剪器 AgentContextTrimmer.java 的策略非常克制几乎零成本只动白名单工具默认只有search_knowledge这类可回收工具的结果会被处理对话原文一律不碰保留最近循环最近 2 个已完成工具循环 本轮正在进行的循环额外受保护不参与裁剪替换为占位符老结果被换成[历史工具结果已省略原长 X 字符原入参 Y]模型依然知道当时问了什么不划算就放弃可回收字符不足当前上下文的 20%整次跳过永不产生孤儿块只替换 tool_result、不动 tool_use避免被供应商判 400。裁剪不改消息条数、不发网络请求异常时直接退回原列表对对话零打扰AgentContextCompactionMiddleware.java。第二道门80% 水位持久化摘要压缩当上下文超过 80% 水位、且末条消息是用户消息工具循环已闭合时压缩器 AgentContextCompactor.java 才出场。它把早期原文换成一条摘要消息要点如下安全切点从尾部保留够 20% 原文后切点只落在最近的用户轮起点绝不在工具调用中间下刀值得才压切点前的可替换素材要超过总量一半否则放弃迭代式摘要新一代摘要以旧摘要为底稿增量更新避免信息逐代衰减结构化校验摘要必须具备分节结构至少 3 个##小节超长时按小节边界截断长度夹逼摘要正文上限 0.1 × 预算并夹在 [1500, 6000] 字符之间防止摘要本身变成新包袱防注入素材用带一次性 nonce 的围栏包裹原文里出现的围栏标记会被中和用户诉求一节原样搬运不被改写AgentConversationSummarizer.java每代留档每次压缩都会写入压缩审计表记录代次、压缩前后字符数运维可回溯落库失败只报警不回滚压缩本身。压缩含同步模型调用因此切到独立线程池执行不占用推理线程任何一步失败生成失败、结构不合格、保留段有孤儿工具结果都整体放弃并退回裁剪层上下文原封不动。跨越会话长期记忆注入除了会话内的最近 N 轮 摘要Ragent 还有一层跨会话的长期记忆后台抽取每轮结束后异步检查待处理用户消息满 3 条才值得叫一次模型抽取事实避免为两三句话浪费调用容量夹逼记忆注入块上限 0.005 × 预算同样夹在 [1500, 6000] 字符顶到上限时先尝试受限合并压不动才容量淘汰注入位置讲究记忆块插在人设之后、会话首条消息之前且与压缩摘要一样用 USER 角色承载——这个位置错位都会破坏压缩中间件的引用比对或被供应商拒绝AgentUserMemoryMiddleware.java。长期记忆的注入块不走上下文预算这笔账配置contextWindowChars时也要一并扣掉。运维出口与调优建议配置项作用适用场景agent.memory.summary-enabled关掉即只留裁剪层摘要模型不可用时的降级出口agent.memory.long-term-enabled关掉即停抽取与注入需要停用跨会话记忆时agent.memory.evictable-tools允许裁剪的工具白名单工具结果普遍很大时扩大范围️新手上手建议先只调contextWindowChars这一个数观察裁剪/压缩触发频率日志与审计表都有完整记录如果工具结果特别大优先确认它是否在evictable-tools白名单里多数成本问题在第一道门就能解决链路追踪与上下文裁剪复用同一套字符口径后台 Trace 面板里的数字可直接和压缩审计比对。小结Ragent 的会话记忆不追求记住一切而是分层取舍最近 2 个工具循环的原文必须保真远期工具结果先降级为占位符再老的对话浓缩为结构化摘要跨会话事实沉淀为长期记忆。三道防线全部围绕一个字符预算配置展开让 Token 成本、上下文完整性和工程可运维性之间取得了干净的平衡。【免费下载链接】ragent企业级 Agentic RAG 智能体 - 全链路覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度思考。面向真实业务场景从 0 到 1 完整工程实现。项目地址: https://gitcode.com/gh_mirrors/ragent1/ragent创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

你的好评正在被算法当成水军?4类“高危好评“自查清单 2026/9/25 20:44:26

你的好评正在被算法当成水军?4类“高危好评“自查清单

你花了半年攒了500条好评,一夜之间全被折叠了。平台通知你"涉嫌刷量",限流、降权、搜索沉底。你喊冤:这些全是真实客户!但算法不听解释。这就是今天要聊的"水军误判"问题。平台打击水军越来越狠,但…

阅读更多 →
机器学习倒逼芯片设计:后摩尔时代的专用架构与工程落地 2026/9/25 20:44:26

机器学习倒逼芯片设计:后摩尔时代的专用架构与工程落地

1. 从一篇论文说起:机器学习怎么就成了芯片设计的“甲方”第一次看到“机器学习倒逼芯片设计”这个说法,我的反应是:终于有人把这件事摆到台面上了。过去十几年,做硬件的人习惯了一个节奏——摩尔定律每十八到二十四个月推进一步&…

阅读更多 →
不再单机孤军作战!机器人开启多机协同作业|富唯智能 2026/9/25 20:44:26

不再单机孤军作战!机器人开启多机协同作业|富唯智能

异构机器人协同:复合机器人与工业人形机器人如何统一调度? 随着智能制造进入柔性生产阶段,工厂中的机器人正在从“单机自动化”向“多机器人协同”升级。复合机器人、AMR、工业人形机器人等不同类型设备同时进入产线后,如何实现异…

阅读更多 →
linux firewalld 查看防火墙规则 2026/9/25 20:44:19

linux firewalld 查看防火墙规则

firewall-cmd --list-all #查看防火墙规则(只显示/etc/firewalld/zones/public.xml中防火墙策略) firewall-cmd --list-all-zones #查看所有的防火墙策略(即显示/etc/firewalld/zones/下的所有策略) firewall-cmd --reload #重新加…

阅读更多 →
飞书项目主数据同步插件实战:一处维护枚举,自动同步到多个空间 2026/9/25 20:44:13

飞书项目主数据同步插件实战:一处维护枚举,自动同步到多个空间

企业用飞书项目做多空间协作时,常踩一个隐蔽的坑:下拉字段口径对不齐。项目类型、优先级、客户行业、合同状态……这些枚举一旦要跨空间统计,各有一套版本就全乱了。飞书项目主数据同步插件由北京高远科技开发、作为飞书项目插件运行&#xf…

阅读更多 →
旅游车队AI落地指南:老板与车调员的每日降本增效实战 2026/9/25 20:43:47

旅游车队AI落地指南:老板与车调员的每日降本增效实战

1. 为什么旅游车队老板和车调员最该先用AI?——不是炫技,是把每天重复的“救火”变成“预判”旅游车队这行,我干了十二年,从开大巴到管二十台车,再到帮三家旅行社做车辆调度系统顾问。见过太多老板凌晨三点被导游电话叫…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉