新闻详情

新闻详情

首页 / 资讯中心 / 详情

DeepSeek-Agent-Harness-2026终极指南-第3章第10节-API协议内幕-OpenAI兼容协议:一个事实标准如何统治世界

发布时间:2026/11/16 21:29:22来源:尧图网络
DeepSeek-Agent-Harness-2026终极指南-第3章第10节-API协议内幕-OpenAI兼容协议:一个事实标准如何统治世界
OpenAI 兼容协议一个事实标准如何统治世界DeepSeek、Qwen、GLM、vLLM……全世界的大模型都挤破头要兼容 OpenAI 的接口格式。这不是谁比谁高尚是一场赤裸裸的商业博弈。搞懂这场博弈你就懂了为什么你的 Agent 代码换个 base_url 就能换大脑。本文导航一个奇怪的现象事实标准是怎么炼成的兼容协议长什么样一行不改换大脑动手验证兼容≠等价那些微妙的差异对 Agent 工程的意义小结下节预告上一节你跑通了第一个 DeepSeek 回合可能已经注意到一个细节我们用的是openai这个库代码却调用的是 DeepSeek 的服务。你没看错也不是我写错了——这就是今天的主角OpenAI 兼容协议。第 2 章我们聊的是认知Agent 是什么、缺什么、几层楼从第 3 章开始课程进入理论筑基区。而筑基的第一块砖就是把这个事实标准想明白。因为它直接决定了你后面 70 篇里每一次模型调用的写法。一个奇怪的现象先摆个现象。2026 年的今天你去看主流大模型服务DeepSeekbase_urlhttps://api.deepseek.com通义 QwenDashScope 提供 OpenAI 兼容模式智谱 GLM直接给 OpenAI 兼容端点本地部署 vLLM / SGLang / Ollama默认起一个 OpenAI 兼容服务连 DeepSeek 官方 HarnessDSH底层走的也是这套它们全都长着 OpenAI 的脸。一个 2022 年由 OpenAI 定下的 HTTP 接口格式凭什么让全世界的竞争对手争相兼容要知道这些公司商业上是刺刀见红的对手。答案就四个字降低迁移成本。但方向跟你想的可能相反——不是 OpenAI 求着大家兼容而是所有模型厂商都怕你不来用。事实标准是怎么炼成的这里面有个经典的商业博弈我给你拆一下。标准分两种法定标准ISO 那种开会投票定的和事实标准靠市场份额打出来的。OpenAI 的 Chat Completions API 就是后者而且是最强势的那种。博弈的三方心理是这样的OpenAI新入场的模型厂商开发者主动兼容用脚投票谁的格式通用我用谁格式成为引力中心想要随时换模型谁好用谁便宜用谁想要把 OpenAI 的存量开发者零成本拉过来态度我的格式就是标准生态自动向我聚拢对模型厂商来说市面上有几百万开发者已经写好了 OpenAI 格式的代码。你兼容它这些人的切换成本是改一行base_url你不兼容他们连试用你的理由都没有。所以 DeepSeek 们不是跪着兼容是精明地捡起了现成的用户池。对开发者你我来说这是天大的好事。协议统一意味着模型变成了可替换零件今天 DeepSeek 便宜用 DeepSeek明天 Qwen 出新款换 Qwen业务代码零改动教程和生态通用学会一套写法走到哪都能用谈判权在你手里厂商涨价换一家十分钟的事这就是我在第 5 节说手写派的底气之一底层协议本身就是开放的、统一的你手写的代码不会绑死在任何一家厂商身上。兼容协议长什么样摊开看OpenAI 兼容协议核心就三样东西一个端点、一个请求体、一个响应体。端点POST {base_url}/chat/completions请求体你最熟悉的那个{model:deepseek-flash,messages:[{role:system,content:你是一个 Python 导师},{role:user,content:什么是 Agent}],temperature:0.7,stream:false}响应体{id:chatcmpl-xxxx,model:deepseek-flash,choices:[{index:0,message:{role:assistant,content:Agent 是一个有手有脚的大模型……},finish_reason:stop}],usage:{prompt_tokens:28,completion_tokens:45,total_tokens:73}}就这些。所谓兼容就是各厂商保证这三样东西的字段名、类型、语义跟 OpenAI 保持一致。你的代码只认识这套 JSON至于背后是 GPT 还是 DeepSeek 还是本地一张 4090代码根本不知道、也不需要知道。给你一张全景图看看这套协议在 DeepSeek 上的落地DeepSeekOpenAI 兼容协议你的代码组装标准请求标准响应openai Python SDK端点 /chat/completions请求 messagesmodel参数响应 choicesusageapi.deepseek.comdeepseek-flash一行不改换大脑动手验证口说无凭我们做个实验同一段代码只换base_url和 Key分别在真 OpenAI和DeepSeek上跑。你会亲眼看到事实标准的威力。swap_brain.py —— 同一段代码换 base_url 换大脑验证 OpenAI 兼容协议。importosfromopenaiimportOpenAIdefchat(base_url:str,api_key:str,model:str,question:str)-str:唯一的模型调用函数注意它不关心自己连的是谁。clientOpenAI(base_urlbase_url,api_keyapi_key)respclient.chat.completions.create(modelmodel,messages[{role:user,content:question}],)returnresp.choices[0].message.contentif__name____main__:q用一句话证明你是谁# 大脑 ADeepSeekprint(A:,chat(https://api.deepseek.com,os.environ[DEEPSEEK_API_KEY],deepseek-flash,q))# 大脑 B任意 OpenAI 兼容端点示例用本地 vLLM 占位你有啥填啥# print(B:, chat(http://localhost:8000/v1, EMPTY, qwen3-32b, q))跑一下DeepSeek 这路$ uv run python swap_brain.py A: 我是DeepSeek大模型一个由深度求索公司训练的AI助手。注意看chat()函数——它没有一行代码是绑定某家厂商的。把base_url换成本地 vLLMhttp://localhost:8000/v1同样的函数立刻变成调用你私有部署的模型。这就是模型变成可替换零件的现场实证。我们后面 DeepPilot 的第一层模型接入层本质就是把这段验证代码工程化加上配置管理、超时、重试、留痕。兼容≠等价那些微妙的差异说句实话别高兴太早。兼容协议是个好东西但它只保证接口形状一致不保证行为完全一致。就像 USB 接口形状统一了但充电功率各不相同。实战里至少有四个坑要注意差异点表现对策参数支持度某些厂商忽略logprobs、tool_choice等字段用之前查该厂商文档别假设全支持token 计数同一段话各家的 tokenizer 算出的 token 数不同成本核算用当次返回的 usage别自己估限流策略并发/频率限制各不相同DeepSeek 并发 2500本地 vLLM 看显存限流参数做成配置项错误码语义同是 429有的返回 Retry-After 头有的不带重试逻辑要容错读取这里有个真实教训。我早期写了个多模型路由A 模型超时自动切 B 模型。上线后发现切换后temperature效果完全变了——因为两家对同一个参数的实现敏感度不一样。协议兼容救的是接口层救不了行为层。所以后面第 19 节讲失败降级时我会专门强调降级链上的模型要用同一套评测集验过不能裸切。另外提一句 Anthropic 格式DeepSeek 除了 OpenAI 兼容端点也提供 Anthropic 格式端点给 Claude 生态的客户端用第 12 节细讲。这说明协议兼容已经卷到——一个厂商同时支持两套事实标准。事实标准的统治力可见一斑。对 Agent 工程的意义把视角拉回 Agent。这套协议统一对我们造 Harness 意味着什么第一层模型接入层可以写得很薄。因为协议统一我们不需要为每家模型写适配器只需要一个配置驱动的客户端MODEL_CONFIGS{deepseek:{base_url:https://api.deepseek.com,model:deepseek-flash},local:{base_url:http://localhost:8000/v1,model:qwen3-32b},backup:{base_url:https://api.deepseek.com,model:deepseek-chat},}defget_client(name:str)-OpenAI:cfgMODEL_CONFIGS[name]returnOpenAI(base_urlcfg[base_url],api_keyos.getenv(f{name.upper()}_API_KEY))十几行DeepPilot 的多模型支持就有了雏形。这是拿着事实标准红利的直接回报——不瞒你说那些自研私有协议的厂商 SDK光是适配层就够你写半个月的。Agent 不会被锁死。你在第 13 节会看到 DeepSeek 峰谷价差 2 倍那时你会感谢协议统一闲时切 DeepSeek、高峰切本地模型改个配置就行你的 Agent 永远可以用当时性价比最高的大脑。小结OpenAI 兼容协议是事实标准靠市场份额而非投票产生厂商兼容它是为了抢存量开发者不是致敬。兼容 接口形状一致端点/请求/响应三件套但行为不完全等价参数支持度、token 计数、限流、错误码语义。对开发者是纯红利模型变成可替换零件换base_url就换大脑Agent 永远绑不死在一家厂商。DeepPilot 第一层模型接入因此可以写得很薄一个配置驱动的客户端 后续补上重试留痕即可。记住这个判断协议兼容救接口层救不了行为层——降级切换前必须过评测。下节预告协议的壳我们看完了下一节往壳里装东西——消息、角色与 token聊天的数据结构解剖。messages列表里 system/user/assistant/tool 四个角色各自的职责边界在哪为什么说 token 是 Agent 世界一切的计量单位你的上下文、你的账单、你的记忆全用它算我们还会用 pydantic 给消息建一套强类型模型为后面整个 DeepPilot 打好地基。如果觉得本文对你有帮助欢迎点赞、收藏、关注三连本系列持续更新中80篇硬核实战关注不迷路~
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/15 4:54:16

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/15 2:04:12

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/16 19:23:38

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/16 6:47:19

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/14 16:35:50

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/16 17:28:18

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉