1. 为什么要在 Claude Code 里做 Triton kernel 优化对比Triton kernel 优化是 GPU 算子开发里很典型的一类任务你要在保持数值正确的前提下把一段卷积或矩阵乘的耗时压到最低。它同时考验模型对 GPU 内存层级、并行切分、向量化访存的理解所以很适合拿来对比不同大模型的代码能力。我这次想验证的问题是在 Claude Code 这个命令行编程助手里分别接入 claude-sonnet-4.6 和 minimax-m2.5让它们优化同一个 Triton conv2d kernel谁生成的代码更快、更稳、更省 token。Claude Code 本身是 Anthropic 推出的终端编程助手它默认走 Anthropic 的接口。但通过设置ANTHROPIC_BASE_URL和ANTHROPIC_AUTH_TOKEN你可以把它指向任何兼容 Anthropic Messages 协议的服务。TaoToken 提供了统一的 Key 和 API 通道既能转发 claude-sonnet-4.6也能转发 minimax-m2.5这样我不用维护两套环境只改几个环境变量就能切换模型做对比。这篇文章适合两类人一是想用 Claude Code 做多模型横向评测的开发者二是需要复现 Triton kernel 优化流程、但不想被环境配置卡住的同学。下面我会给出可复制的settings.json与config.toml骨架、CC Switch 切换步骤以及用同一份 Triton kernel 样例跑通两个模型并记录结果的完整动作。2. TaoToken 前置准备Key、通道与 Claude Code 安装TaoToken 的定位是统一模型接入层你注册后拿到一个 API Key就能在同一个 base URL 下调用不同厂商的模型。对 Claude Code 来说关键是它兼容 Anthropic 的/v1/messages协议所以只要把 base URL 指过去Claude Code 就以为自己在跟 Anthropic 说话。先到官网注册并创建 API Keyhttps://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 。创建完成后在控制台复制 Key后面配置里会用到。API 入口是 https://taotoken.net/api 注意这个地址不带 UTM 参数直接作为 base URL 使用。Claude Code 的安装依赖 Node.js。我实测用 Node 20 以上比较稳安装命令是npm install -g anthropic-ai/claude-code claude --version如果版本号能正常打印说明 CLI 装好了。接下来不要急着claude启动先把模型通道配好否则它会去连默认的 Anthropic 地址。TaoToken 的模型标识符需要按平台文档填写。本次对比用到的两个模型分别是claude-sonnet-4.6和minimax-m2.5在配置里作为ANTHROPIC_DEFAULT_SONNET_MODEL等变量的值。如果你不确定当前可用的完整模型名可以在模型对话页面确认https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 。注意API Key 只放在本地环境变量或配置文件里不要提交到 Git 仓库。下面示例中的sk-xxxx请替换成你自己的 Key。3. 可复制配置settings.json、config.toml 与 CC SwitchClaude Code 读取配置的优先级是环境变量 项目级.claude/settings.json 用户级~/.claude/settings.json。为了做多模型切换我建议把公共部分放在用户级配置把模型名放在可切换的 profile 里。先看用户级~/.claude/settings.json的骨架{ env: { ANTHROPIC_BASE_URL: https://taotoken.net/api, ANTHROPIC_AUTH_TOKEN: sk-xxxx, ANTHROPIC_API_KEY: , ANTHROPIC_DEFAULT_SONNET_MODEL: claude-sonnet-4.6, ANTHROPIC_DEFAULT_OPUS_MODEL: claude-sonnet-4.6, ANTHROPIC_DEFAULT_HAIKU_MODEL: claude-sonnet-4.6, ANTHROPIC_SMALL_FAST_MODEL: claude-sonnet-4.6 } }这里把ANTHROPIC_API_KEY留空、只用ANTHROPIC_AUTH_TOKEN是为了避免两个鉴权头冲突。ANTHROPIC_BASE_URL指向 TaoToken 的 API 入口Claude Code 会把请求发到这里由 TaoToken 转发到对应模型。如果你更习惯用 TOML 管理多套配置可以建一个~/.claude/config.toml作为切换源再用脚本导出环境变量。骨架如下[profiles.sonnet] model claude-sonnet-4.6 base_url https://taotoken.net/api [profiles.minimax] model minimax-m2.5 base_url https://taotoken.net/apiCC Switch 是一个社区常用的小工具用来在多个 Claude Code 配置间快速切换。它的核心逻辑就是替换~/.claude/settings.json里的模型字段。手动切换也完全可以我常用的一段 shell 函数是ccswitch() { local model$1 local file$HOME/.claude/settings.json python3 - $model $file PY import json, sys model, path sys.argv[1], sys.argv[2] with open(path) as f: cfg json.load(f) for k in [ANTHROPIC_DEFAULT_SONNET_MODEL, ANTHROPIC_DEFAULT_OPUS_MODEL, ANTHROPIC_DEFAULT_HAIKU_MODEL, ANTHROPIC_SMALL_FAST_MODEL]: cfg[env][k] model with open(path, w) as f: json.dump(cfg, f, indent2) print(switched to, model) PY }用法就是ccswitch claude-sonnet-4.6或ccswitch minimax-m2.5。切换后重新启动claude即可生效。如果你用 CC Switch 图形界面操作等价选中 profile点应用然后重启终端会话。4. 验证请求用同一份 Triton kernel 跑通两个模型配置好之后先做一次最小验证确认通道是通的。启动 Claude Codeclaude在交互界面里输入一句简单的话比如“回复 ok”如果能看到模型正常返回说明 Key 和 base URL 没问题。更严格的验证是直接发一个 HTTP 请求curl -s https://taotoken.net/api/v1/messages \ -H x-api-key: sk-xxxx \ -H anthropic-version: 2023-06-01 \ -H content-type: application/json \ -d { model: claude-sonnet-4.6, max_tokens: 64, messages: [{role: user, content: say ok}] }返回 JSON 里带content字段就说明链路正常。把model换成minimax-m2.5再发一次两个模型都能通就可以进入 kernel 优化环节。接下来准备测试脚本triton_conv_kernel_optimize.py。它的结构是一个待优化的conv2d_kernel_exact函数、一个计时辅助函数、以及正确性和性能测试。核心测试逻辑如下import torch import triton import triton.language as tl import time triton.jit def conv2d_kernel_exact( input_ptr, weight_ptr, output_ptr, N, C, H, W, K, R, S, stride, padding, out_h, out_w, BLOCK_M: tl.constexpr, BLOCK_K: tl.constexpr, BLOCK_C: tl.constexpr, ): # 待优化由模型填充实现 pass def timed(f, *args, **kwargs): torch.cuda.synchronize() start time.perf_counter() result f(*args, **kwargs) torch.cuda.synchronize() end time.perf_counter() return result, (end - start) * 1000 torch.manual_seed(0) N, C, H, W 6, 3, 1024, 1024 K, R, S 16, 3, 3 stride, padding 1, 1 x torch.ones(N, C, H, W, devicecuda) * 0.1 w torch.ones(K, C, R, S, devicecuda) * 0.05 triton_out, _ timed(conv2d_triton_exact, x, w, stride, padding) torch_out, _ timed(torch.nn.functional.conv2d, x, w, stridestride, paddingpadding) max_diff torch.max(torch.abs(torch_out - triton_out)).item() assert max_diff 1e-3, correctness failed在 Claude Code 里把这段脚本作为上下文然后给出优化指令。我用的提示词是请实现并优化 triton_conv_kernel_optimize.py 中的 conv2d_kernel_exact 函数。 要求 1. 只修改该函数不要改动文件其他部分。 2. 保证正确性测试通过误差小于 1e-3。 3. 目标是让 Triton kernel 的最短耗时尽可能低。 4. 最多迭代 10 次每次修改后说明优化思路。先切到minimax-m2.5跑一轮记录每次迭代后的 kernel 最短耗时再用ccswitch claude-sonnet-4.6切到另一个模型重新用原始脚本跑一轮。两次都保留完整的耗时序列和最终代码。我实测下来两个模型都能生成功能正确的 kernel但性能差距明显。claude-sonnet-4.6 优化后的 kernel 最短耗时约 0.818 ms比 PyTorch 官方conv2d的 1.069 ms 快约 23.5%minimax-m2.5 优化后约 1.796 ms比基线慢。token 消耗上minimax-m2.5 输入约 46.1 万、输出约 3.7 万claude-sonnet-4.6 输入约 353、输出约 2.7 万差异主要来自交互方式前者倾向每次回传完整文件后者更多走增量修改。5. 本篇常见错排查报错一401 Unauthorized或invalid x-api-key。先确认ANTHROPIC_AUTH_TOKEN填的是 TaoToken 的 Key而不是 Anthropic 官方 Key。再检查ANTHROPIC_API_KEY是否被设成了非空值两个鉴权头同时存在时容易冲突建议留空。报错二model not found。模型标识符要跟平台文档一致。claude-sonnet-4.6和minimax-m2.5是本次使用的名称如果你在模型列表里看到的是带前缀的完整名就按完整名填。切换模型后记得重启claude环境变量不会热更新。报错三Triton 编译报out of resource: shared memory。这是 BLOCK 尺寸开太大导致的。让模型把BLOCK_M、BLOCK_K、BLOCK_C调小或者改用tl.dot配合更小的 tile。可以在提示词里明确要求“shared memory 不超过 48KB”。报错四正确性测试max_diff超过 1e-3。常见原因是累加精度不够。检查 kernel 里acc是否用tl.float32以及是否在乘加时被降精度。让模型显式声明acc tl.zeros(..., dtypetl.float32)通常能解决。报错五切换模型后仍走旧模型。Claude Code 会缓存会话配置。退出当前claude进程确认~/.claude/settings.json里的模型字段已更新再重新启动。如果用了项目级.claude/settings.json它的优先级高于用户级要一并检查。报错六curl测试通但 Claude Code 不通。两者用的协议头不同。curl示例用的是x-api-keyClaude Code 用的是Authorization: Bearer。确认 TaoToken 的 base URL 末尾没有多余斜杠且路径是/api而不是/api/v1Claude Code 会自己拼/v1/messages。6. 继续用 TaoToken 做多模型对比如果你只想快速验证某个模型能不能写 Triton kernel可以直接在模型对话页面里贴代码试https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 。要长期在 Claude Code 里做编码和 Agent 任务建议把 Key 和通道固定下来用 Coding Plan 管理额度https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 。接入过程中如果遇到鉴权或模型名问题先到 API Keys 页面核对 Key 状态https://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 再对照接入文档检查 base URL 和请求头https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 。我自己的习惯是每次做模型对比前先用同一份triton_conv_kernel_optimize.py和同一段提示词跑一遍基线确认两个模型都能通过正确性测试再开始记录性能数据。这样即使中途切换模型也不会因为环境差异污染结论。