新闻详情

新闻详情

首页 / 资讯中心 / 详情

Ragent流式输出:SSE分事件推送思考、正文与来源,以及跨节点流式取消

发布时间:2026/11/13 2:24:37来源:尧图网络
Ragent流式输出:SSE分事件推送思考、正文与来源,以及跨节点流式取消
Ragent流式输出SSE分事件推送思考、正文与来源以及跨节点流式取消【免费下载链接】ragent企业级 Agentic RAG 智能体 - 全链路覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度思考。面向真实业务场景从 0 到 1 完整工程实现。项目地址: https://gitcode.com/gh_mirrors/ragent1/ragentRagent 是一个企业级 Agentic RAG 智能体它的对话界面之所以能做到“边想边说、边查边流”核心是一套SSEServer-Sent Events流式输出协议思考、正文、检索来源、工具进度被拆成 8 种命名事件分帧推送配合 Redis 标记 广播主题跨节点流式取消让用户在任意一台服务节点上点“停止”都能可靠掐断正在运行的 Agent 流。这篇文章带你从协议到取消链路完整看懂这套机制。为什么选 SSE 而不是轮询或 WebSocket大模型回答动辄几十秒如果等整个回答生成完再返回用户只能干等。SSE 基于 HTTP 长连接、单向推送天然适合“服务端持续产出增量、客户端实时渲染”的场景且断线重连、事件命名等浏览器原生支持实现成本远低于 WebSocket。Ragent 的对话入口就返回一个 SSE 流超时时间可配提问入口AgentChatController.java 中GET /agent/v1/chat返回SseEmitter停止入口POST /agent/v1/stop?taskId...只需一个任务 ID上图右侧“SSE 流式通道”和底部“中断与取消、统一收尾”正是本文主角所有增量帧从 Agent 运行时一路推到接入层取消信号则从基础设施层反向打断整条链路。8 种 SSE 事件思考、正文、来源各走各的通道Agent 引擎的事件协议定义在 AgentSSEEventType.java一共产生 8 类事件事件作用典型内容meta开场元信息conversationId、taskId停止按钮就靠它message增量文本type区分think思考/response正文/error中断提示block文本块封口携带服务端起止时间用于计算“思考了多久”tool工具进度工具名、状态pending/running/end、结果摘要hint运行提示如“已达最大迭代次数正在生成总结”confirm写操作确认等待用户批准敏感工具调用finish本轮结束消息 ID、状态NORMAL / INTERRUPTED、总耗时done连接收尾固定[DONE]前端据此关流cancel用户取消与 finish 互斥同样携带落库后的消息状态关键设计是分事件推送而不是一锅烩思考与正文分离think和response都是message事件但type不同。前端据此把“深度思考”渲染成折叠区正文渲染成气泡互不污染。转换逻辑在 AgentStreamEventBridge.java 的onThinkingDelta/onResponseDelta。来源随 finish 交付RAG 模式下检索命中的文档级来源sources不是单独一帧而是随结束载荷一起下发见 CompletionPayload.java 中的ListSourceRef sources字段仅在命中知识库时携带。工具进度独立成帧tool事件携带状态机pending → running → end前端能画出“正在调用 search_knowledge…”的进度条。发送侧被封装成线程安全的 SseEmitterSender.java连接关闭状态用AtomicBoolean守卫complete()用 CAS 保证只关闭一次——这在“正常完成”“用户取消”“异常失败”三条收尾路径并发竞争时至关重要。前端解析器 useAgentStream.ts 逐行读取event:/data:行按事件名分发到各自 handlerthink增量实时进入思考面板finish到达后流式输出正式收尾。跨节点流式取消标记、广播、复核三步走单体应用里“点停止”很简单同进程内存里打个标记即可。但 Ragent 是多节点部署用户发请求的节点和实际跑流的节点往往不是同一台——停止请求落在 A 节点流却在 B 节点上跑。这就是 StreamTaskManager.java 要解决的问题它由三件东西组成本地任务注册表Guava CacheTTL 30 分钟记录每个 taskId 的收尾回调与上游中断动作Redis 取消标记ragent:stream:cancel:{taskId}属主标记ragent:stream:owner:{taskId}让任何节点都能查到“这条流该不该停、谁有权停”Redis 广播主题ragent:stream:cancel停止请求先写标记再向所有节点发布taskId|发起方消息持有该流的那台机器收到后执行本地取消。完整流程如下流启动时register(taskId, userId, 收尾回调)把属主写入 Redis——注意注释里明确说“停止请求可能落在没跑这条流的节点上”所以属主必须进 Redis 而不是只留本地用户点停止任意节点收到/agent/v1/stop执行 cancelByUser先比对属主不匹配就报“任务不存在或已结束”不区分不存在与非属主防止停止接口变成他人任务的探测器校验通过后publishCancel先落 Redis 标记再广播所有节点含本地统一走监听器处理避免重复调用执行端cancelLocal再次复核发起方执行端复核兜住“属主还没落地”的抢跑窗口CAS 保证取消动作只执行一次。这里的细节很有工程味道taskId 是雪花 ID时间有序、可预测所以“拿到 taskId 就能停别人的流”不是理论风险必须靠属主比对挡住。优雅打断先中断框架超时才断流取消信号到达执行节点后并不是粗暴地掐掉 HTTP 连接。AgentRunHandle.interruptUpstream 的策略是两级先礼貌中断调用agent.interrupt()通知框架走中断分支等它把本轮 Agent 状态存盘最多等 2 秒超时再强制断流礼貌中断失败或超时直接dispose()掐断 Reactor 链并补一次状态存盘保证工具执行结果不丢。收尾统一走 finishCancelledStream把已生成的内容以INTERRUPTED状态落库补发canceldone事件——已流出的内容不会丢刷新页面后看到的和当场看到的一致。另外还有一个容易被忽略的取消源用户关页面、断网导致 SSE 断开。bindEmitterLifecycle 在onTimeout/onError/onCompletion三个钩子上都挂了回收动作以系统身份发布取消——否则 ReAct 循环会空跑到迭代上限白白烧 token。小结这套流式输出协议好在哪分事件推送思考、正文、工具、来源各走各的通道前端渲染清晰协议易于演进三出口 CAS 互斥complete/cancel/fail三条收尾路径只有一个能胜出杜绝重复发帧跨节点可靠取消Redis 标记 广播 执行端复核任何节点都能停任何节点的流且属主校验防越权优雅降级先等框架存盘再断流中断的内容照样落库刷新不丢历史。想深入阅读可以从这几个文件入手事件协议AgentSSEEventType.java事件桥接与收尾AgentStreamEventBridge.java取消管理器StreamTaskManager.java运行句柄与优雅打断AgentRunHandle.java前端 SSE 解析useAgentStream.ts【免费下载链接】ragent企业级 Agentic RAG 智能体 - 全链路覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度思考。面向真实业务场景从 0 到 1 完整工程实现。项目地址: https://gitcode.com/gh_mirrors/ragent1/ragent创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

计算机毕业设计选题推荐:基于大数据的广西医疗机构及药店清单数据分析与可视化|毕业设计选题|计算机毕设|选题推荐|毕设指导|项目定制|源码|高质量项目 2026/11/11 19:03:14

计算机毕业设计选题推荐:基于大数据的广西医疗机构及药店清单数据分析与可视化|毕业设计选题|计算机毕设|选题推荐|毕设指导|项目定制|源码|高质量项目

✨作者主页:IT毕设梦工厂✨ 个人简介:曾从事计算机专业培训教学,擅长Java、Python、PHP、.NET、Node.js、GO、微信小程序、安卓Android等项目实战。接项目定制开发、代码讲解、答辩教学、文档编写、降重等。 ☑文末获取源码☑ 精彩专栏推荐⬇…

阅读更多 →
基于拉丁超立方抽样与场景缩减的交直流混合微网优化调度 2026/11/12 19:40:24

基于拉丁超立方抽样与场景缩减的交直流混合微网优化调度

1. 交直流混合微网为什么值得折腾先说结论:这玩意儿不是学术圈自嗨,是真正在解决实际工程问题的。现在的微电网早就不是纯交流或者纯直流一统天下的局面了。光伏、储能、直流负荷这些天生就是直流的,而风机、传统负荷、电网接口又离不开交流。…

阅读更多 →
元初混沌体系 第四卷 太赫兹高频通信与超宽带频谱体系:第八十二篇 相控阵天线波束全域快速跟踪算法 2026/11/10 1:11:20

元初混沌体系 第四卷 太赫兹高频通信与超宽带频谱体系:第八十二篇 相控阵天线波束全域快速跟踪算法

第八十二篇 相控阵天线波束全域快速跟踪算法本篇定位:以鸿蒙一气频谱流转公理为根基,承接第八十一篇滤波器、混频器自主化设计标准,直击相控阵天线波束在大动态场景下的全域快速跟踪之困,重构波束全域坐标系、预测跟踪内核、多目标…

阅读更多 →

最新相关资讯

【外设】之大彩串口显示屏 2026/11/13 0:43:49

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/12 23:59:09

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/12 9:50:02

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/12 9:25:38

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/12 15:57:44

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/13 0:02:27

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉