1. 为什么要把 Claude Code 的模型通道做成两条Claude Code 是 Anthropic 出的命令行编码助手默认走 Claude 系列模型但它允许你通过ANTHROPIC_BASE_URL把请求打到任意兼容 Anthropic 接口的端点上。很多人第一次玩本地模型就是拿 vLLM 起一个 Qwen3.6然后把ANTHROPIC_BASE_URL指向http://127.0.0.1:8000让 Claude Code 连本机推理服务。这套玩法在单机、显存充足、服务常驻的前提下确实爽代码不出内网延迟低模型名自己说了算。问题也出在这里。127.0.0.1是绑死本机的回环地址一旦你换到笔记本、换到另一台开发机或者本地显卡被别的训练任务占满、vLLM 容器被 OOM 杀掉Claude Code 立刻就没有可用模型了终端里只剩连接报错。对天天靠claude写代码的人来说这等于工具链断了一半。所以更稳的做法是本地 vLLM 当第一条通道TaoToken 当第二条通道。两条通道共用同一套 Claude Code 环境变量机制平时用本地本地掉线或换机器时切到 TaoToken 继续跑claude --model。这篇就按这个思路把 vLLM 部署、模型名对齐、环境变量切换、最小请求验证、常见报错全部走一遍。适合已经在用 Claude Code、想加一条兜底模型通道的开发者也适合刚接触 vLLM 想拿 Qwen3.6 练手的人。2. 前置准备vLLM 起 Qwen3.6 与 TaoToken 通道2.1 用 docker-compose 拉起 vLLM先确认机器装了 Docker 和 NVIDIA Container Toolkitnvidia-smi能看到卡。然后建目录~/vllm-qwen写一个docker-compose.ymlversion: 3.8 services: vllm-qwen: image: vllm/vllm-openai:cu130-nightly container_name: vllm-qwen36-35B-A3B-FP8 restart: unless-stopped ipc: host ports: - 8000:8000 volumes: - /app/vllm/data/models:/root/.cache/modelscope environment: - VLLM_USE_MODELSCOPEtrue deploy: resources: reservations: devices: - driver: nvidia count: all capabilities: [gpu] command: - --model - Qwen/Qwen3.6-35B-A3B-FP8 - --tensor-parallel-size - 1 - --gpu-memory-utilization - 0.8 - --served-model-name - Qwen3.6-35B-A3B-FP8 - --enable-prefix-caching - --enable-auto-tool-choice - --default-chat-template-kwargs - {enable_thinking: false} - --tool-call-parser - qwen3_coder - --max-model-len - 196608 - --max-num-batched-tokens - 8192 - --enable-chunked-prefill - --max-num-seqs - 32 - --kv-cache-dtype - fp8这里有两个参数后面会反复用到。--served-model-name Qwen3.6-35B-A3B-FP8决定了接口对外暴露的模型名Claude Code 的--model必须和它一字不差。--tool-call-parser qwen3_coder是让 Qwen3.6 的工具调用格式能被正确解析Claude Code 依赖工具调用来读写文件、跑命令这个不配对模型能聊天但干不了活。启动docker compose up -d docker logs -f vllm-qwen36-35B-A3B-FP8日志里看到Uvicorn running on http://0.0.0.0:8000就说明服务起来了。验证模型列表curl http://127.0.0.1:8000/v1/models返回 JSON 里data[].id应该包含Qwen3.6-35B-A3B-FP8。这一步过了本地通道就算通了。2.2 创建 TaoToken 通道的 Key本地通道绑死127.0.0.1换机器就废。第二条通道用 TaoToken它提供兼容 Anthropic 的接口Claude Code 不用改代码只改环境变量就能切过去。先打开 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_end 注册账号进控制台创建一个 API Key。这个 Key 就是 Claude Code 的ANTHROPIC_AUTH_TOKEN真正消耗 Token 的是 Claude Code 这一端你每让它读一次文件、跑一次命令都会走这条通道计费。Key 拿到后先放好别贴到公开仓库里。需要说明的是TaoToken 在这里的角色是「第二条模型通道」不是替代你本地的 vLLM。本地能跑就用本地本地不可用才切过来两者是互补关系。3. 可复制配置环境变量怎么切两条通道3.1 本地 vLLM 通道Linux / macOS / WSLexport ANTHROPIC_BASE_URLhttp://127.0.0.1:8000 export ANTHROPIC_AUTH_TOKENlocal-placeholderWindows PowerShell$env:ANTHROPIC_BASE_URLhttp://127.0.0.1:8000 $env:ANTHROPIC_AUTH_TOKENlocal-placeholderWindows CMDset ANTHROPIC_BASE_URLhttp://127.0.0.1:8000 set ANTHROPIC_AUTH_TOKENlocal-placeholder本地 vLLM 默认不校验 Token但 Claude Code 要求这个变量非空所以填个占位符就行。启动时模型名必须和--served-model-name对齐claude --model Qwen3.6-35B-A3B-FP83.2 TaoToken 通道把ANTHROPIC_BASE_URL换成https://taotoken.net/api注意不带/v1也不加任何查询参数。ANTHROPIC_AUTH_TOKEN填你在控制台创建的那个 Keyexport ANTHROPIC_BASE_URLhttps://taotoken.net/api export ANTHROPIC_AUTH_TOKENsk-你的KeyWindows PowerShell$env:ANTHROPIC_BASE_URLhttps://taotoken.net/api $env:ANTHROPIC_AUTH_TOKENsk-你的Key想永久生效就写进~/.bashrc或~/.zshrc。但更推荐的做法是写两个 shell 函数一键切换避免每次手改# 追加到 ~/.bashrc 或 ~/.zshrc use_local_qwen() { export ANTHROPIC_BASE_URLhttp://127.0.0.1:8000 export ANTHROPIC_AUTH_TOKENlocal-placeholder echo 已切到本地 vLLM 通道 } use_taotoken() { export ANTHROPIC_BASE_URLhttps://taotoken.net/api export ANTHROPIC_AUTH_TOKENsk-你的Key echo 已切到 TaoToken 通道 }source ~/.bashrc之后use_local_qwen和use_taotoken随时切换。本地 vLLM 掉线时敲一下use_taotoken再claude --model就能继续干活。3.3 两条通道参数对照项目本地 vLLM 通道TaoToken 通道ANTHROPIC_BASE_URLhttp://127.0.0.1:8000https://taotoken.net/apiANTHROPIC_AUTH_TOKEN占位符即可控制台创建的 Key模型名来源--served-model-name通道支持的模型名适用场景单机、显存充足换机器、本地掉线是否消耗额度本地算力Claude Code 消耗 Token4. 验证请求确认通道真的通了4.1 本地通道验证沿用 curl 模型列表的思路curl http://127.0.0.1:8000/v1/models返回里能看到Qwen3.6-35B-A3B-FP8就说明 vLLM 正常。再发一次最小对话请求确认推理链路完整curl http://127.0.0.1:8000/v1/chat/completions \ -H Content-Type: application/json \ -d { model: Qwen3.6-35B-A3B-FP8, messages: [{role: user, content: 只回复两个字收到}], max_tokens: 16 }有choices[0].message.content返回就说明本地通道可用。4.2 TaoToken 通道验证对这条通道发一次最小请求确认调用成功、有返回。Claude Code 走的是 Anthropic 风格接口用x-api-key头curl https://taotoken.net/api/v1/messages \ -H Content-Type: application/json \ -H x-api-key: sk-你的Key \ -H anthropic-version: 2023-06-01 \ -d { model: claude-sonnet-4-20250514, max_tokens: 32, messages: [{role: user, content: 只回复两个字收到}] }返回 JSON 里有content字段且包含文本就说明这条通道通了。注意这里的模型名要填通道支持的模型不要填Qwen3.6-35B-A3B-FP8本地模型名只在本地通道有效。4.3 用 Claude Code 实测切到 TaoToken 通道后直接跑use_taotoken claude --model claude-sonnet-4-20250514进去后让它写个冒泡排序能正常输出并调用工具读写文件就说明整条链路打通了。本地 vLLM 掉线或换机器时就是靠这一步继续用claude --model跑代码。5. 本篇常见错排查5.1 模型名不一致导致 404最常见的就是claude --model填的名字和--served-model-name不一样。vLLM 返回的报错通常是The model xxx does not exist。解决方法是先curl http://127.0.0.1:8000/v1/models看真实模型名再原样填到--model后面。大小写、连字符都要一致。5.2 BASE_URL 多写 /v1 或带 UTMTaoToken 通道的ANTHROPIC_BASE_URL必须是https://taotoken.net/api不带/v1也不加任何查询参数。Claude Code 会自己在后面拼路径你多写一层就变成/api/v1/v1/messages直接 404。本地 vLLM 通道同理填http://127.0.0.1:8000即可不要填http://127.0.0.1:8000/v1。5.3 环境变量没生效export只在当前 shell 有效新开终端就没了。如果你在 A 终端设置、在 B 终端跑claude那 B 终端读的是旧值。用echo $ANTHROPIC_BASE_URL确认当前值或者把配置写进~/.bashrc。Windows 下注意 PowerShell 和 CMD 语法不同别混用。5.4 本地 vLLM 掉线后 Claude Code 卡住本地容器被 OOM 杀掉后127.0.0.1:8000没人监听Claude Code 会一直重试直到超时。这时候别干等直接use_taotoken切通道再重新claude --model。养成习惯本地跑之前先curl http://127.0.0.1:8000/v1/models探一下通了再用。5.5 工具调用不生效Qwen3.6 在 Claude Code 里能聊天但不会读写文件多半是--tool-call-parser没配对。启动参数里要有--enable-auto-tool-choice和--tool-call-parser qwen3_coder缺一个都会导致工具调用解析失败。改完参数要docker compose up -d重建容器光 restart 不会应用新 command。6. 本地掉线或换机器时怎么继续把两条通道配好之后日常流程就固定下来了开机先docker compose up -d起 vLLMcurl http://127.0.0.1:8000/v1/models确认模型在然后use_local_qwenclaude --model Qwen3.6-35B-A3B-FP8干活。本地显存被占、容器挂了、或者你换了台没装 vLLM 的机器就use_taotoken切到 TaoToken 通道claude --model继续跑代码上下文不中断。需要长期跑编码任务或 Agent 的可以看下 Coding Plan把额度规划好只是想验证模型对话效果的直接进模型对话页面试Key 管理和创建在 API Keys 页面接入细节看接入文档。本地 vLLM 是主力TaoToken 是兜底两条通道都握在手里Claude Code 才不会因为一个127.0.0.1就罢工。