新闻详情

新闻详情

首页 / 资讯中心 / 详情

Ragent流式输出:SSE分事件推送思考、正文与来源,以及跨节点流式取消

发布时间:2026/9/26 3:01:18来源:尧图网络
Ragent流式输出:SSE分事件推送思考、正文与来源,以及跨节点流式取消
Ragent流式输出SSE分事件推送思考、正文与来源以及跨节点流式取消【免费下载链接】ragent企业级 Agentic RAG 智能体 - 全链路覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度思考。面向真实业务场景从 0 到 1 完整工程实现。项目地址: https://gitcode.com/gh_mirrors/ragent1/ragentRagent 是一个企业级 Agentic RAG 智能体它的对话界面之所以能做到“边想边说、边查边流”核心是一套SSEServer-Sent Events流式输出协议思考、正文、检索来源、工具进度被拆成 8 种命名事件分帧推送配合 Redis 标记 广播主题跨节点流式取消让用户在任意一台服务节点上点“停止”都能可靠掐断正在运行的 Agent 流。这篇文章带你从协议到取消链路完整看懂这套机制。为什么选 SSE 而不是轮询或 WebSocket大模型回答动辄几十秒如果等整个回答生成完再返回用户只能干等。SSE 基于 HTTP 长连接、单向推送天然适合“服务端持续产出增量、客户端实时渲染”的场景且断线重连、事件命名等浏览器原生支持实现成本远低于 WebSocket。Ragent 的对话入口就返回一个 SSE 流超时时间可配提问入口AgentChatController.java 中GET /agent/v1/chat返回SseEmitter停止入口POST /agent/v1/stop?taskId...只需一个任务 ID上图右侧“SSE 流式通道”和底部“中断与取消、统一收尾”正是本文主角所有增量帧从 Agent 运行时一路推到接入层取消信号则从基础设施层反向打断整条链路。8 种 SSE 事件思考、正文、来源各走各的通道Agent 引擎的事件协议定义在 AgentSSEEventType.java一共产生 8 类事件事件作用典型内容meta开场元信息conversationId、taskId停止按钮就靠它message增量文本type区分think思考/response正文/error中断提示block文本块封口携带服务端起止时间用于计算“思考了多久”tool工具进度工具名、状态pending/running/end、结果摘要hint运行提示如“已达最大迭代次数正在生成总结”confirm写操作确认等待用户批准敏感工具调用finish本轮结束消息 ID、状态NORMAL / INTERRUPTED、总耗时done连接收尾固定[DONE]前端据此关流cancel用户取消与 finish 互斥同样携带落库后的消息状态关键设计是分事件推送而不是一锅烩思考与正文分离think和response都是message事件但type不同。前端据此把“深度思考”渲染成折叠区正文渲染成气泡互不污染。转换逻辑在 AgentStreamEventBridge.java 的onThinkingDelta/onResponseDelta。来源随 finish 交付RAG 模式下检索命中的文档级来源sources不是单独一帧而是随结束载荷一起下发见 CompletionPayload.java 中的ListSourceRef sources字段仅在命中知识库时携带。工具进度独立成帧tool事件携带状态机pending → running → end前端能画出“正在调用 search_knowledge…”的进度条。发送侧被封装成线程安全的 SseEmitterSender.java连接关闭状态用AtomicBoolean守卫complete()用 CAS 保证只关闭一次——这在“正常完成”“用户取消”“异常失败”三条收尾路径并发竞争时至关重要。前端解析器 useAgentStream.ts 逐行读取event:/data:行按事件名分发到各自 handlerthink增量实时进入思考面板finish到达后流式输出正式收尾。跨节点流式取消标记、广播、复核三步走单体应用里“点停止”很简单同进程内存里打个标记即可。但 Ragent 是多节点部署用户发请求的节点和实际跑流的节点往往不是同一台——停止请求落在 A 节点流却在 B 节点上跑。这就是 StreamTaskManager.java 要解决的问题它由三件东西组成本地任务注册表Guava CacheTTL 30 分钟记录每个 taskId 的收尾回调与上游中断动作Redis 取消标记ragent:stream:cancel:{taskId}属主标记ragent:stream:owner:{taskId}让任何节点都能查到“这条流该不该停、谁有权停”Redis 广播主题ragent:stream:cancel停止请求先写标记再向所有节点发布taskId|发起方消息持有该流的那台机器收到后执行本地取消。完整流程如下流启动时register(taskId, userId, 收尾回调)把属主写入 Redis——注意注释里明确说“停止请求可能落在没跑这条流的节点上”所以属主必须进 Redis 而不是只留本地用户点停止任意节点收到/agent/v1/stop执行 cancelByUser先比对属主不匹配就报“任务不存在或已结束”不区分不存在与非属主防止停止接口变成他人任务的探测器校验通过后publishCancel先落 Redis 标记再广播所有节点含本地统一走监听器处理避免重复调用执行端cancelLocal再次复核发起方执行端复核兜住“属主还没落地”的抢跑窗口CAS 保证取消动作只执行一次。这里的细节很有工程味道taskId 是雪花 ID时间有序、可预测所以“拿到 taskId 就能停别人的流”不是理论风险必须靠属主比对挡住。优雅打断先中断框架超时才断流取消信号到达执行节点后并不是粗暴地掐掉 HTTP 连接。AgentRunHandle.interruptUpstream 的策略是两级先礼貌中断调用agent.interrupt()通知框架走中断分支等它把本轮 Agent 状态存盘最多等 2 秒超时再强制断流礼貌中断失败或超时直接dispose()掐断 Reactor 链并补一次状态存盘保证工具执行结果不丢。收尾统一走 finishCancelledStream把已生成的内容以INTERRUPTED状态落库补发canceldone事件——已流出的内容不会丢刷新页面后看到的和当场看到的一致。另外还有一个容易被忽略的取消源用户关页面、断网导致 SSE 断开。bindEmitterLifecycle 在onTimeout/onError/onCompletion三个钩子上都挂了回收动作以系统身份发布取消——否则 ReAct 循环会空跑到迭代上限白白烧 token。小结这套流式输出协议好在哪分事件推送思考、正文、工具、来源各走各的通道前端渲染清晰协议易于演进三出口 CAS 互斥complete/cancel/fail三条收尾路径只有一个能胜出杜绝重复发帧跨节点可靠取消Redis 标记 广播 执行端复核任何节点都能停任何节点的流且属主校验防越权优雅降级先等框架存盘再断流中断的内容照样落库刷新不丢历史。想深入阅读可以从这几个文件入手事件协议AgentSSEEventType.java事件桥接与收尾AgentStreamEventBridge.java取消管理器StreamTaskManager.java运行句柄与优雅打断AgentRunHandle.java前端 SSE 解析useAgentStream.ts【免费下载链接】ragent企业级 Agentic RAG 智能体 - 全链路覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度思考。面向真实业务场景从 0 到 1 完整工程实现。项目地址: https://gitcode.com/gh_mirrors/ragent1/ragent创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

计算机毕业设计选题推荐:基于大数据的广西医疗机构及药店清单数据分析与可视化|毕业设计选题|计算机毕设|选题推荐|毕设指导|项目定制|源码|高质量项目 2026/9/26 3:01:18

计算机毕业设计选题推荐:基于大数据的广西医疗机构及药店清单数据分析与可视化|毕业设计选题|计算机毕设|选题推荐|毕设指导|项目定制|源码|高质量项目

✨作者主页:IT毕设梦工厂✨ 个人简介:曾从事计算机专业培训教学,擅长Java、Python、PHP、.NET、Node.js、GO、微信小程序、安卓Android等项目实战。接项目定制开发、代码讲解、答辩教学、文档编写、降重等。 ☑文末获取源码☑ 精彩专栏推荐⬇…

阅读更多 →
基于拉丁超立方抽样与场景缩减的交直流混合微网优化调度 2026/9/26 3:01:18

基于拉丁超立方抽样与场景缩减的交直流混合微网优化调度

1. 交直流混合微网为什么值得折腾先说结论:这玩意儿不是学术圈自嗨,是真正在解决实际工程问题的。现在的微电网早就不是纯交流或者纯直流一统天下的局面了。光伏、储能、直流负荷这些天生就是直流的,而风机、传统负荷、电网接口又离不开交流。…

阅读更多 →
元初混沌体系 第四卷 太赫兹高频通信与超宽带频谱体系:第八十二篇 相控阵天线波束全域快速跟踪算法 2026/9/26 3:01:11

元初混沌体系 第四卷 太赫兹高频通信与超宽带频谱体系:第八十二篇 相控阵天线波束全域快速跟踪算法

第八十二篇 相控阵天线波束全域快速跟踪算法本篇定位:以鸿蒙一气频谱流转公理为根基,承接第八十一篇滤波器、混频器自主化设计标准,直击相控阵天线波束在大动态场景下的全域快速跟踪之困,重构波束全域坐标系、预测跟踪内核、多目标…

阅读更多 →

最新相关资讯

员工工资管理系统SQL数据库设计实战 2026/9/26 4:22:36

员工工资管理系统SQL数据库设计实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
软件复杂度治理:多智能体系统的模块划分与依赖收敛原则 2026/9/26 4:22:36

软件复杂度治理:多智能体系统的模块划分与依赖收敛原则

软件复杂度治理:多智能体系统的模块划分与依赖收敛原则随着大语言模型应用从简单的单 Prompt 脚本向承载企业核心商业逻辑的分布式多智能体系统(MAS)深度演进,系统软件复杂度的增长速度往往呈指数级爆炸: 致命的“智能…

阅读更多 →
WorkBuddy与CodeBuddy免费机制深度解析:积分、模型与设备指纹真相 2026/9/26 4:22:36

WorkBuddy与CodeBuddy免费机制深度解析:积分、模型与设备指纹真相

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
天津平衡阀专业厂家、平衡阀来图定制、平衡阀来样定制选购参考汇总 2026/9/26 4:22:36

天津平衡阀专业厂家、平衡阀来图定制、平衡阀来样定制选购参考汇总

天津塘沽瓦特斯阀门有限公司是一家拥有七十余年行业积淀的专精特新阀门智造企业,主营蝶阀、球阀、偏心半球阀、调流阀、调压罐、菱形调节阀、排气阀、闸阀、信息化智慧水务产品、过滤器、水轮机进水球阀等工程类阀门产品及相关流体控制设备及配套服务,可…

阅读更多 →
Rasa中文聊天机器人工程实践:从环境搭建到对话闭环 2026/9/26 4:22:36

Rasa中文聊天机器人工程实践:从环境搭建到对话闭环

简介:这是一套面向高校学生与初学者的Rasa中文聊天机器人完整开发实践资源,适用于毕业设计、课程设计及AI项目入门开发,聚焦自然语言理解(NLU)与对话管理(Core)两大核心能力落地。资源包含24个文…

阅读更多 →
Jev模型入门:官网密钥获取与API接入实战指南 2026/9/26 4:22:29

Jev模型入门:官网密钥获取与API接入实战指南

最近身边不少朋友都在问同一件事:Jev怎么用?Jev密钥去哪领?Jev模型到底怎么接入自己的项目?打开热词榜,"jev模型官网""jev怎么接入""jev怎么用""jev模型开源吗"几乎霸屏。问的…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉