MiroThinker 离线部署完整指南如何在一台断网电脑上跑起深度研究智能体【免费下载链接】MiroThinkerMiroThinker is a deep research agent optimized for complex research and prediction tasks. Our latest models, MiroThinker-1.7, achieves 74.0 and 75.3 on the BrowseComp and BrowseComp Zh, respectively.项目地址: https://gitcode.com/GitHub_Trending/mi/MiroThinkerMiroThinker 是一套面向深度研究deep research的开源智能体模型支持 256K 长上下文和数百次工具调用。如果你的机器没有外网连接——内网隔离环境、出差、私有化机房——只要提前把三样东西搬到本地就能完整运行模型权重、本地推理服务、智能体框架。这篇文章按能不能跑 → 怎么搭全 → 遇到坑怎么办的顺序带你把离线环境一次搭好。断网环境下到底要准备哪些东西MiroThinker 不是单纯的聊天模型它是一套模型 工具 编排框架的组合所以离线部署要分开处理三块组件位置离线时的做法模型权重MiroThinker-1.7-mini30B MoE/MiroThinker-v1.5-30B等在联网机器上提前下载拷进目标机器推理服务SGLang / vLLM / llama.cpp本地起 OpenAI 兼容接口全程不联网智能体框架apps/miroflow-agent/、apps/gradio-demo/依赖包提前uv sync装好即可运行需要留一个预期MiroThinker 的核心能力是搜索 抓取 推理其中网页搜索和代码沙箱默认走在线 APISerper、Jina、E2B。完全断网时这些工具不可用适合跑本地文档分析、代码解释、数学推理这类不依赖联网的工具任务如果机器有内网或可访问部分 API再补齐搜索工具即可。先 clone 仓库联网机器上执行一次整个目录打包拷走git clone https://gitcode.com/GitHub_Trending/mi/MiroThinker cd MiroThinker按显存选模型并用一条命令提前下载 选型的参考基准在 apps/gradio-demo/README.md 里写得比较清楚MiroThinker-v1.5-30B 是 MoE 结构激活参数只有 3BQ4 量化下 16GB 显存就能跑是单卡离线部署的甜点想要 FP8 精度或更长上下文建议 48GB 以上显存显存更紧张可以选 v1.0 系列的 8B/14B 版本牺牲一些能力换体积。在有网的环境下把权重落到本地目录# 完整权重配合 SGLang / vLLM huggingface-cli download miromind-ai/MiroThinker-v1.5-30B \ --local-dir ./model/MiroThinker-v1.5-30B # 或者量化版 GGUF配合 llama.cpp省显存 huggingface-cli download mradermacher/MiroThinker-v1.5-30B-GGUF \ MiroThinker-v1.5-30B.Q4_K_M.gguf --local-dir ./model提前下载的意义在于目标机器断网后后续所有环节启动服务、验证接口都不再需要任何外网请求。本地拉起 OpenAI 兼容的推理服务推理服务的作用是让智能体框架像调用云端 API 一样调用你本地模型——只要暴露出/v1兼容接口上层框架几乎不用改代码。按硬件选一条路线GPU 充足SGLang FP8吞吐最佳见 apps/gradio-demo/README.mdpython3 -m sglang.launch_server \ --model-path ./model/MiroThinker-v1.5-30B \ --quantization fp8 --tp 1 --mem-fraction-static 0.9 \ --host 0.0.0.0 --port 61005 --trust-remote-code显存吃紧llama.cpp 跑 Q4 量化版16GB 起步llama-server -m ./model/MiroThinker-v1.5-30B.Q4_K_M.gguf \ --port 61005 -ngl 99 -v启动后访问http://localhost:61005/v1/models能返回模型名说明本地推理链路已经通了。上面这张图展示了 1.7 系列在 BrowseComp、GAIA-Text 等研究类基准上的表现——离线跑的和你在线评测的是同一套权重推理能力不会因为断网而缩水缩水的只有联网工具那一层。接入交互界面Gradio 或 LobeChat 二选一️ 想要一个网页对话框两条路都现成路线 AGradio 演示最简单cd apps/gradio-demo uv sync export BASE_URLhttp://localhost:61005/v1 uv run main.py浏览器打开http://localhost:8080即可。BASE_URL指向你自己起的推理服务地址这是离线场景下唯一需要改的地方。路线 BLobeChat想要更完整的对话客户端LobeChat 对接 MiroThinker 时需要加载自定义工具解析器用 vLLM 启动时带上插件完整说明见 apps/lobehub-compatibility/README.mdvllm serve ./model/MiroThinker-v1.5-30B \ --served-model-name mirothinker --port 61002 \ --chat-template chat_template.jinja \ --tool-parser-plugin MiroThinkerToolParser.py \ --tool-call-parser mirothinker --enable-auto-tool-choice在 LobeChat 的AI 服务商设置里新建一个自定义服务商请求格式选 OPENAI代理地址填http://localhost:61002/v1接着添加模型ID 填mirothinker必须与--served-model-name一致并打开 Function Calling 开关——不开的话多步工具调用会失效让智能体框架指向本地模型如果只是聊天上面就够了要用完整的研究智能体再配置apps/miroflow-agent/cd apps/miroflow-agent uv sync cp .env.example .env # 按需填写工具 API Key然后把 LLM 端指向本地服务跑一个默认任务试试uv run python main.py llmqwen-3 \ agentmirothinker_1.7_keep5_max200 \ llm.base_urlhttp://localhost:61005/v1这里选mirothinker_1.7_keep5_max200配置是因为它带了上下文管理只保留最近 5 条工具结果256K 窗口下不容易爆上下文也是官方推荐的大多数任务首选配置备选配置都在 apps/miroflow-agent/conf/agent/ 里。断网时.env里搜不到对应 Key 的工具会自动缺失属于预期行为。常见问题排查 按出错的层次从上到下查一遍基本都能定位模型加载慢 / 启动 OOM先确认权重文件完整md5 对比下载源显存不够就换 Q4 GGUF llama.cpp或把MAX_CONTEXT_LENGTH降到 128K或换 8B 版本。接口连不上九成是 base URL 没带/v1后缀正确形如http://localhost:61005/v1或端口被防火墙拦了用curl直接打/v1/models验证最快。uv sync在 WSL 上内存不足在 Windows 宿主机的%UserProfile%\.wslconfig里加memory8GB后重启 WSL不想重启就UV_CONCURRENT_BUILDS1 uv sync串行构建。推理正常但回答质量下降确认用的是带 thinking 的官方 checkpoint 和对应 chat template而不是社区随意改过的版本。下一步想看各版本参数规模和基准成绩README.md 的 Performance 一节配图 assets/17_table.png想补全离线工具链Whisper 转写、视觉问答、本地推理引擎的部署方式assets/LOCAL-TOOL-DEPLOYMENT.md一个可以立刻上手的建议先在联网机器上把 SGLang Gradio 这套最小链路跑通模型、服务、界面三件齐活再把整个目录和model/打包迁到断网机器——离线环境里你要做的就只剩敲一条启动命令。【免费下载链接】MiroThinkerMiroThinker is a deep research agent optimized for complex research and prediction tasks. Our latest models, MiroThinker-1.7, achieves 74.0 and 75.3 on the BrowseComp and BrowseComp Zh, respectively.项目地址: https://gitcode.com/GitHub_Trending/mi/MiroThinker创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考