新闻详情

新闻详情

首页 / 资讯中心 / 详情

PanWatch AI 服务商 Failover 机制:DeepSeek 挂了自动切 Ollama 本地模型

发布时间:2026/10/1 15:36:19来源:尧图网络
PanWatch AI 服务商 Failover 机制:DeepSeek 挂了自动切 Ollama 本地模型
PanWatch AI 服务商 Failover 机制DeepSeek 挂了自动切 Ollama 本地模型【免费下载链接】PanWatchPanWatch — AI stock monitoring for A-shares, HK US markets, powered by TradingAgents. Portfolio insights, real-time alerts automated reports.盯盘侠覆盖 A股/港股/美股的 AI 盯盘、持仓分析、实时提醒与自动报告。项目地址: https://gitcode.com/GitHub_Trending/pa/PanWatch做 AI 盯盘最怕什么行情不等人而 AI 服务商可能随时限流、超时甚至宕机。PanWatch盯盘侠针对 A 股 / 港股 / 美股的 AI 盯盘、持仓分析与自动报告内置了一套模型级 Failover 机制主模型如 DeepSeek调用失败时系统按错误类别自动摘参重试或降级到下一个候选模型例如本地 Ollama并记录冷却窗口让盯盘提醒、盘前分析、盘后日报这些关键链路少停一秒是一秒。为什么要给 AI 调用做 FailoverPanWatch 里几乎每个核心功能都要调用大模型盘前分析、盘中监测、盘后日报、TradingAgents 深度分析、价格提醒的 AI 解读……它们都走同一条 AI 调用链路。一旦服务商故障超时 / 5xx行情时段模型响应变慢调用超时限流 / 配额耗尽高频盯盘场景下 429 并不罕见鉴权失效 / 服务挂Key 过期或服务端直接宕机。没有降级能力时这些失败会直接传导到用户报告不生成、提醒不推送。PanWatch 的方案是借鉴数据源侧久经考验的负缓存冷却模式kline_collector 的_FAIL_UNTIL给 AI 调用补齐主模型失败自动切备选的运行时能力核心实现就在 src/platform/ai/ai_failover.py。三步看懂 Failover 的候选链候选链构建主模型排第一其余按库里is_default优先、id 顺序补齐最多 3 个备选全部复用设置 → AI 服务商里已配置的 OpenAI 兼容服务OpenAI / 智谱 / DeepSeek / Ollama 均可无需新增全局配置。按错误类别分流这是 Failover 的关键——不是所有失败都换模型。冷却 恢复探测失败候选进入 60 秒冷却窗口窗口内直接跳过不再联网窗口过期后自然再试成功即清除冷却标记。错误分类三种处理策略错误类别典型场景处理方式参数不兼容模型不接受temperature参数摘掉参数重试同一模型一次可降级超时、5xx、限流(429)、鉴权失效(401)、服务挂切到下一候选模型并记入冷却致命错误prompt / 内容策略类错误直接抛出换模型也会同样失败这套分流逻辑在 ai_failover.py 的classify_ai_error中实现一个容易忽略的细节是401 鉴权失效也会触发切换——因为备用服务商比如本地 Ollama的 Key 可能依然有效直接失败反而是浪费机会。流式输出的特殊处理AI 对话是流式输出的这里有个安全边界一旦已经向前端产出过 token再失败就无法回滚此时 Failover 不能偷偷换模型否则回答会从一半开始变口音。因此流式路径只覆盖首个 token 之前的失败——首包之后异常直接透出给用户这也是 ai_failover.py 中chat_stream的设计取舍。怎么验证它生效了PanWatch 把 Failover 做成了可观测的used_model_label实际跑通的模型标签会记入运行记录agent_runs 落库你在运行历史里看到的模型就是真正干活的那个切换告警日志发生降级时打印带trace_id的 warning 日志排查时能直接串起整条链路全量单测覆盖tests/test_ai_failover.py 用 mock 覆盖了错误分流、冷却与恢复探测、流式切换边界、候选链构建等全部关键路径。也就是说当某天 DeepSeek 大面积限流你看到的不是一堆报错而是运行记录里的模型悄悄变成了Ollama/qwen2.5之类的本地模型——盯盘不停机这就是 Failover 的意义。快速上手配置多服务商让 Failover 生效设置 → AI 服务商添加至少一个主服务商如 DeepSeek和一个备服务商如本地 Ollama 的http://localhost:11434/v1均为 OpenAI 兼容 API给备模型配置好 Key 与模型名系统会自动按默认模型优先的顺序挂入候选链无需任何额外开关Failover 随每次 AI 调用自动生效。更多架构细节可阅读 src/ARCHITECTURE.md 与 README.zh-CN.md。小结PanWatch 的 AI Failover 机制用错误分类 负缓存冷却 候选链降级三板斧把单点依赖某一家模型服务商的风险降到最低参数问题就地修复服务问题自动切换内容问题快速失败不空转。对新手来说只需把两个服务商配好剩下的交给它——行情不停你的 AI 盯盘也不该停。【免费下载链接】PanWatchPanWatch — AI stock monitoring for A-shares, HK US markets, powered by TradingAgents. Portfolio insights, real-time alerts automated reports.盯盘侠覆盖 A股/港股/美股的 AI 盯盘、持仓分析、实时提醒与自动报告。项目地址: https://gitcode.com/GitHub_Trending/pa/PanWatch创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

Ubuntu 22.04 安装 Miniconda、PyTorch 与 YOLOv8 并完成 CPU 推理 2026/10/1 16:12:42

Ubuntu 22.04 安装 Miniconda、PyTorch 与 YOLOv8 并完成 CPU 推理

Ubuntu 22.04 安装 Miniconda、PyTorch 与 YOLOv8 并完成 CPU 推理本文记录在 VMware Ubuntu 22.04 虚拟机中安装 Miniconda、PyTorch CPU 版和 Ultralytics YOLOv8,并使用 YOLOv8n 对示例图片进行目标检测的完整过程。一、实验环境项目配置操作系统Ubuntu 22.04.5 …

阅读更多 →
9.30blog 2026/10/1 16:12:42

9.30blog

2026年9月24日 14:09 1.printf 占位符的作用是用“”后面的数据或词句替换语句中的占位符(指定格式) 例如:printf(“There are %d apples”,2); 生成There are 2 apples 例2printf(“%s will come tonight\n”,“张三”); 例3printf(“%s say…

阅读更多 →
带父母孩子去阳澄湖吃蟹,湖景包厢到底适不适合一家人坐进去 2026/10/1 16:12:42

带父母孩子去阳澄湖吃蟹,湖景包厢到底适不适合一家人坐进去

先说结论:适合,但前提是你对“湖景包厢”的期待不是一块招牌,而是老人孩子坐下来之后真实的体验。带家人出门吃饭,最容易出问题的往往不是菜好不好吃,而是环境名不副实、桌子挤、上菜慢,老人孩子都别扭。我…

阅读更多 →
(146页PPT)某大型企业基于战略的全面绩效管理体系设计方案(附下载方式) 2026/10/1 16:12:42

(146页PPT)某大型企业基于战略的全面绩效管理体系设计方案(附下载方式)

篇幅所限,本文只提供部分资料内容,完整资料请看下面链接 (146页PPT)某大型企业基于战略的全面绩效管理体系设计方案.pptx_基于物联网的消防监控方案资源-CSDN下载 资料解读:《(146页PPT)某大型…

阅读更多 →
Designer Skills五大集合全景图:33个插件覆盖研究到交付,找到最适合你的安装路径 2026/10/1 16:12:42

Designer Skills五大集合全景图:33个插件覆盖研究到交付,找到最适合你的安装路径

Designer Skills五大集合全景图:33个插件覆盖研究到交付,找到最适合你的安装路径 【免费下载链接】designer-skills Designer Skills Collection: agentic skills, commands, and plugins for design — from research to systems, UI, interaction, and…

阅读更多 →
Unity热更新安全加固:从AssetBundle清单签名到本地缓存防篡改 2026/10/1 16:12:35

Unity热更新安全加固:从AssetBundle清单签名到本地缓存防篡改

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉