1. 为什么要在 OpenClaw 里接 GPUStack 本地模型OpenClaw 是一个支持工具调用、记忆和 workspace 的 agent 框架它本身不绑定任何模型供应商只要对方提供 OpenAI 兼容接口就能接。GPUStack 正好是一个把本地显卡资源统一调度、对外暴露 OpenAI 兼容 API 的推理平台。把这两者拼在一起你得到的是数据不出局域网、没有按 token 计费、延迟取决于你自己的网线和显卡、模型想换就换Qwen、Llama、DeepSeek、Gemma 都行。但真正动手时会发现OpenClaw 的 provider 配置项比想象中细GPUStack 的接口路径又分/v1和/v1-openai两种上下文长度对不上就直接 400。这篇就按「先验证后端、再写配置、最后排障」的顺序把 OpenClaw GPUStack OpenAI 兼容接口这条链路一次性跑通。适合已经部署好 GPUStack、能打开 OpenClaw dashboard、手里有至少一个本地模型比如 qwen2.5:14b-instruct的开发者。2. 前置准备TaoToken 统一 Key 与 GPUStack 侧确认在写 OpenClaw 配置之前先把两件事定下来一是 GPUStack 的接口地址和模型名二是统一走 TaoToken 的 Key 通道避免每个本地服务各管一套密钥。GPUStack 侧你需要确认三个值。第一是服务地址形如http://你的内网IP:端口注意不要带路径。第二是接口前缀GPUStack 官方推荐/v1-openai部分版本也支持/v1两个都试一下哪个通。第三是模型 id必须和 GPUStack 模型列表里显示的完全一致包括冒号和大小写比如qwen2.5:14b-instruct不能写成qwen2.5-14b-instruct。TaoToken 这边的作用是给 OpenClaw 提供一个统一的 Key 与 API 通道。你可以先在控制台创建一个 API Key后续 OpenClaw 的 provider 里apiKey字段就填它这样本地模型和云端模型可以共用同一套鉴权入口切换时不用改代码。相关入口模型对话体验https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_contentmodel_chatutm_campaignrewrite创建 API Keyhttps://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi_keysutm_campaignrewrite接入文档https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite注意GPUStack 如果没设 API KeyOpenClaw 里apiKey填任意非空字符串即可但生产环境建议在 GPUStack 控制台开启鉴权避免内网裸奔。3. 可复制配置config.toml 骨架与 dashboard 写法OpenClaw 的 provider 配置写在models.providers下。推荐先用 dashboard 可视化改确认无误后再落到config.toml这样出问题好回滚。3.1 dashboard 可视化配置启动 dashboardopenclaw dashboard浏览器打开对应地址并登录 token进入 Config → Models → Providers → Add Provider。Provider 名称建议起有意义的名字比如gpustack。然后粘贴下面这段 JSON把baseUrl和id换成你自己的{ baseUrl: http://你的GPUStack地址:端口/v1-openai, apiKey: 你的TaoToken_API_Key, api: openai-completions, models: [ { id: qwen2.5:14b-instruct, name: 本地 Qwen2.5 14B Instruct, reasoning: false, input: [text], contextWindow: 32768, maxTokens: 8192 } ] }几个字段的含义值得单独说。api必须是openai-completions这是 OpenClaw 识别 OpenAI 兼容接口的标识。reasoning强烈建议falseQwen 系列开了它经常返回空内容。contextWindow必须大于等于 GPUStack 实际支持的上下文否则历史一长就报 400。maxTokens是单次生成上限按显存给。保存后进入 Config → Agents → Defaults → Model把 primary 改成{ primary: gpustack/qwen2.5:14b-instruct }格式是provider名/模型id中间用斜杠。保存全部配置后重启 OpenClaw 服务。3.2 config.toml 命令行写法如果你习惯脚本化可以直接用 CLI 写入openclaw config set models.providers.gpustack { baseUrl: http://你的GPUStack地址:端口/v1-openai, apiKey: 你的TaoToken_API_Key, api: openai-completions, models: [ { id: qwen2.5:14b-instruct, name: 本地 Qwen2.5 14B, reasoning: false, input: [text], contextWindow: 32768, maxTokens: 8192 } ] } openclaw config set agents.defaults.model.primary gpustack/qwen2.5:14b-instruct对应的config.toml片段长这样方便你直接对照检查[models.providers.gpustack] baseUrl http://你的GPUStack地址:端口/v1-openai apiKey 你的TaoToken_API_Key api openai-completions [[models.providers.gpustack.models]] id qwen2.5:14b-instruct name 本地 Qwen2.5 14B reasoning false input [text] contextWindow 32768 maxTokens 8192 [agents.defaults.model] primary gpustack/qwen2.5:14b-instruct提示contextWindow和 GPUStack 启动参数--max-model-len要一致或更大。GPUStack 默认可能只有 4096 或 8192这是后面 400 报错的头号原因。4. 验证请求先 curl 后端再测 OpenClaw配置写完别急着在 OpenClaw 里聊天先用 curl 单独验证 GPUStack 的 OpenAI 兼容接口是否正常。这一步能帮你把「后端问题」和「OpenClaw 配置问题」分开。export GPUSTACK_API_KEY你的GPUStack_API_KEY curl http://你的GPUStack地址:端口/v1-openai/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer $GPUSTACK_API_KEY \ -d { model: qwen2.5:14b-instruct, messages: [ {role: system, content: You are a helpful assistant.}, {role: user, content: Hello! Tell me about yourself.} ], temperature: 0.7, stream: false }返回的 JSON 里如果包含choices[0].message.content字段说明后端 OK。如果报 401 或 403检查 Bearer 后面的 Key 是否正确或者临时去掉 Authorization 头测试。如果报 404说明路径不对把/v1-openai/chat/completions换成/v1/chat/completions再试。后端通了之后回到 OpenClaw 发一条消息。成功的话你会看到模型正常回复dashboard 的 Logs 里没有 error。如果 OpenClaw 报错但 curl 正常问题基本就在 provider 配置的字段上重点查api类型、baseUrl路径、模型 id 拼写这三处。5. 本篇常见错排查5.1 400 Bad Request: request exceeds max tokens完整报错类似request (70540 tokens) exceeds the models maximum context length (4096 tokens)。原因是 OpenClaw 把历史对话、workspace 内容、工具输出全塞进请求而 GPUStack 默认上下文很小。解决分三步。第一步在 GPUStack 部署页面编辑模型Advanced Parameters 里加--max-model-len 32768按显存选 16384 或 65536保存后重新部署。第二步同步把 OpenClaw 配置里的contextWindow改成 32768 或更大。第三步临时救急可以在聊天界面输入/new新建空会话或/compact压缩历史CLI 下用openclaw reset --scope sessions --yes5.2 空回复、不回复先确认reasoning是不是falseQwen 系列开了它容易返回空。再确认模型 id 和 GPUStack 列表里完全一致冒号、大小写都不能错。然后用第 4 节的 curl 再测一次后端。最后看 OpenClaw Logsdashboard 或终端里都有具体错误会写在那。5.3 路径 404 与鉴权 401404 基本都是baseUrl路径问题/v1-openai和/v1换着试。401 是 Key 问题GPUStack 开了鉴权就必须填真实 Key没开就填任意非空字符串。如果 OpenClaw 里填的是 TaoToken 的 Key而 GPUStack 又开了自己的鉴权注意两者不要混用provider 的apiKey对应的是 GPUStack 那一侧。5.4 工具调用不生效OpenClaw 的 agent 能力依赖模型支持 function calling。部分小模型或量化版本对工具调用支持不完整表现为模型只回文字不触发工具。可以先用code_execution让模型写个简单函数测试如果一直不触发换一个工具调用支持更好的模型 id。6. 长期编码与 Agent 场景的接入建议如果你打算把 OpenClaw 当长期编码助手或跑自动化 agent建议开启 aggressive compaction避免历史无限膨胀[compaction] mode aggressive同时养成定期/new的习惯尤其是切换任务时。多模型并存也很实用同一个 provider 下加多个模型 id随时切换[[models.providers.gpustack.models]] id qwen2.5:14b-instruct name 本地 Qwen2.5 14B reasoning false input [text] contextWindow 32768 maxTokens 8192 [[models.providers.gpustack.models]] id llama3.1:8b-instruct name 本地 Llama3.1 8B reasoning false input [text] contextWindow 16384 maxTokens 4096长期跑编码和 agent 任务的话可以了解下 Coding Plan 的额度方案https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding_planutm_campaignrewriteClaude Code 相关接入参考https://taotoken.net/claude-code-anthropic?utm_sourcetaotoken_aicg_blog_endutm_contentclaude_codeutm_campaignrewrite控制台统一管理 Key 和用量https://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_contentconsoleutm_campaignrewriteAPI 基础地址不加 UTMhttps://taotoken.net/api整套流程跑下来核心就三件事api用openai-completions、baseUrl优先/v1-openai、contextWindow和 GPUStack 的--max-model-len对齐。先用 curl 验后端再上 OpenClaw上下文爆了就/new或/compact。把这三条守住本地模型跑 agent 的链路基本不会翻车。