新闻详情

新闻详情

首页 / 资讯中心 / 详情

VoltAgent 接入 NanoGPT:通过模型路由使用 OpenAI 兼容多模型网关

发布时间:2026/9/25 3:10:54来源:尧图网络
VoltAgent 接入 NanoGPT:通过模型路由使用 OpenAI 兼容多模型网关
人工智能AI AgentAgent 框架后端多智能体RAG工具调用Agent 记忆【免费下载链接】voltagentAI Agent Engineering Platform built on an Open Source TypeScript AI Agent Framework项目地址https://gitcode.com/gh_mirrors/vo/voltagent点击查看免费下载NanoGPT 是一个提供多家主流开源大模型统一接入的推理网关OpenAI 兼容 API在 VoltAgent 中它以nano-gpt/model的模型 ID 形式注册进模型路由器让你可以在同一个 Agent 里直接选用 DeepSeek、Llama、Kimi、GLM、Qwen 等 20 模型而无需分别对接各家 SDK。读完本文你将掌握 NanoGPT 提供方的环境变量配置、默认端点与覆盖方式、完整模型清单以及 VoltAgent 模型路由器在底层是如何解析provider/model并懒加载对应 SDK 适配器的。NanoGPT 在 VoltAgent 中的定位VoltAgent 的模型路由器Model Router采用provider/model这种两级模型 ID 约定provider段标识模型提供方model段标识该提供方下的具体模型。NanoGPT 提供方的注册信息可以在 model-provider-registry.generated.ts 中查到idnano-gptnameNanoGPTnpmai-sdk/openai-compatible底层 SDK 包apihttps://nano-gpt.com/api/v1默认 Base URLenv[NANO_GPT_API_KEY]必需的环境变量doc官方文档地址由注册表条目记录所有支持提供方的总览见 overview.md其中 NanoGPT 对应的模型前缀为nano-gpt环境变量为NANO_GPT_API_KEY。快速开始创建 NanoGPT Agent在 VoltAgent 中只需要把model配置成nano-gpt/model形式的字符串Agent 内部就会自动通过模型路由器解析并完成 SDK 装配import { Agent } from voltagent/core; const agent new Agent({ name: nano-gpt-agent, instructions: You are a helpful assistant, model: nano-gpt/deepseek/deepseek-r1, });这里nano-gpt/deepseek/deepseek-r1中的nano-gpt是提供方前缀deepseek/deepseek-r1是 NanoGPT 网关侧的模型标识模型本身也带厂商前缀所以整个 ID 会有两段斜杠。运行前请确保已安装voltagent/core及其依赖的 AI SDKai与ai-sdk/openai-compatible——注册表加载器在 import 不到config.npm指定的包时会抛出Install the package and try again提示已配置NANO_GPT_API_KEY环境变量。环境变量与端点覆盖必需变量NANO_GPT_API_KEYNANO_GPT_API_KEY是 NanoGPT 提供方唯一必需的凭据。在注册表实现 model-provider-registry.ts 中requireApiKey会先过滤出名称匹配KEY|TOKEN|SECRET的变量即NANO_GPT_API_KEY若缺失则直接抛出错误Missing API key for nano-gpt. Set process.env.NANO_GPT_API_KEY.提示清晰便于排查。可选变量NANO_GPT_BASE_URL默认 Base URL 为https://nano-gpt.com/api/v1。需要自定义端点例如企业代理、网关转发或本地调试时设置NANO_GPT_BASE_URL即可覆盖。该逻辑来自注册表的resolveBaseUrlmodel-provider-registry.ts其解析优先级为先查找config.env中名称匹配ENDPOINT|BASE_URL|BASEURL的变量NanoGPT 条目的 env 只有 API Key因此此步通常不命中再按“提供方 ID 转大写并替换-为_”的约定规则查找PROVIDER_ID_BASE_URL即NANO_GPT_BASE_URL都未命中时回落到注册表中的api默认值https://nano-gpt.com/api/v1。在命令行/.env中配置export NANO_GPT_API_KEYyour_nano_gpt_api_key export NANO_GPT_BASE_URLhttps://nano-gpt.com/api/v1 # 可选使用默认端点时可省略Provider 包与 OpenAI 兼容适配器NanoGPT 提供方对应的 SDK 包是ai-sdk/openai-compatible即通过 OpenAI 兼容适配器接入。在注册表实现里所有 npm 为ai-sdk/openai-compatible的提供方都走buildOpenAICompatibleProvider适配器model-provider-registry.tsconst provider createFn({ name: config.id, // nano-gpt baseURL, // 默认 https://nano-gpt.com/api/v1可被 NANO_GPT_BASE_URL 覆盖 apiKey: apiKeyMatch.value, // NANO_GPT_API_KEY 的值 supportsStructuredOutputs: true, });两个值得注意的实现细节supportsStructuredOutputs: true表示该提供方声明支持结构化输出Structured Outputs启用后 Agent 在需要 JSON Schema 约束输出时会走服务端结构化生成路径适配器是懒加载的只有在首次真正使用nano-gpt/...模型时注册表才会import(ai-sdk/openai-compatible)并构造 providermodel-provider-registry.ts未用到的提供方不会产生额外的加载开销。NanoGPT 模型清单21 个以下模型列表来自模型注册快照与 model-provider-types.generated.ts 中nano-gpt提供方的类型定义一一对应可直接作为model字符串使用前缀nano-gpt/ 下表模型 ID模型 ID备注deepseek/deepseek-r1DeepSeek 推理模型deepseek/deepseek-v3.2:thinkingDeepSeek V3.2 思考模式meta-llama/llama-3.3-70b-instructLlama 3.3 70B 指令模型meta-llama/llama-4-maverickLlama 4 Maverickminimax/minimax-m2.1MiniMax M2.1mistralai/devstral-2-123b-instruct-2512Mistral Devstral 2mistralai/ministral-14b-instruct-2512Mistral Ministral 14Bmistralai/mistral-large-3-675b-instruct-2512Mistral Large 3moonshotai/kimi-k2-instructKimi K2 指令模式moonshotai/kimi-k2-thinkingKimi K2 思考模式nousresearch/hermes-4-405b:thinkingHermes 4 405B 思考模式nvidia/llama-3_3-nemotron-super-49b-v1_5NVIDIA Nemotron Superopenai/gpt-oss-120bOpenAI GPT-OSS 120Bqwen/qwen3-235b-a22b-thinking-2507Qwen3 235B 思考版qwen/qwen3-coderQwen3 Coderz-ai/glm-4.6GLM-4.6z-ai/glm-4.6:thinkingGLM-4.6 思考模式zai-org/glm-4.5-airGLM-4.5-Airzai-org/glm-4.5-air:thinkingGLM-4.5-Air 思考模式zai-org/glm-4.7GLM-4.7zai-org/glm-4.7:thinkingGLM-4.7 思考模式使用示例// 选用 Kimi K2 思考模式 model: nano-gpt/moonshotai/kimi-k2-thinking, // 选用 GLM-4.7 思考模式 model: nano-gpt/zai-org/glm-4.7:thinking,注意:thinking后缀的模型属于“思考/推理”模式通常延迟更高、但推理质量更好适合复杂任务-instruct/非 thinking 变体则更适合低延迟的常规对话场景。模型路由底层解析原理把model: nano-gpt/deepseek/deepseek-r1这样的字符串交给 Agent 后实际发生的是以下调用链Agent 的resolveModelReference发现model值是字符串便调用ModelProviderRegistry.getInstance().resolveLanguageModel(resolved)agent.ts注册表的resolveLanguageModel先通过splitModelId把字符串切分为providerId nano-gpt与modelId deepseek/deepseek-r1——按第一个/切分provider 段做小写归一化model-provider-registry.ts接着懒加载nano-gpt提供方如上文所述最终以provider(resolvedModelId)的形式返回一个 Vercel AI SDK 的LanguageModel实例交给 Agent 执行。这一机制意味着同一个 Agent 可以在不同模型间自由切换只要改model字符串即可例如model: nano-gpt/deepseek/deepseek-v3.2:thinking, // 低成本思考 model: nano-gpt/moonshotai/kimi-k2-instruct, // 通用指令 model: nano-gpt/openai/gpt-oss-120b, // 开源旗舰注册表自动刷新与模型列表维护VoltAgent 的模型列表并非硬编码而是来自 models.dev 的提供方注册快照并带有本地缓存与自动刷新机制model-provider-registry.ts非生产环境NODE_ENV ! production下注册表启动时即开始自动刷新默认间隔 30 分钟刷新结果写入~/.voltagent/model-registry/provider-registry.json与类型定义缓存也会同步到voltagent/core的dist/registries目录因此 NanoGPT 上线的新模型可能不需要手动升级 SDK 就能通过刷新获得前提是该模型已出现在 models.dev 注册表中。这意味着本文的 21 个模型清单是一个“快照事实”以当前仓库注册表为准实际可用模型集可能随时间扩展。常见问题与注意事项API Key 缺失启动时若未设置NANO_GPT_API_KEY会在首次解析模型时抛出Missing API key for nano-gpt请检查.env或 shell 导出。端点不通确认NANO_GPT_BASE_URL如已设置指向https://nano-gpt.com/api/v1格式的 OpenAI 兼容根路径不要误填成/v1/chat/completions之类的完整接口路径。SDK 未安装懒加载适配器会提示Install the package and try again需要确保ai-sdk/openai-compatible与ai已安装。thinking 模型延迟带:thinking后缀的模型属于思考模式调用耗时与 token 消耗通常更高生产环境按任务复杂度选型。通过nano-gpt/model路由你可以把 NanoGPT 网关背后的 DeepSeek、Llama、Kimi、GLM、Qwen 等模型统一纳入 VoltAgent 的 Agent 配置体系用一套 API Key 和一套代码按需切换到最合适的开源模型。赞分享人工智能AI AgentAgent 框架后端多智能体RAG工具调用Agent 记忆【免费下载链接】voltagentAI Agent Engineering Platform built on an Open Source TypeScript AI Agent Framework项目地址https://gitcode.com/gh_mirrors/vo/voltagent点击查看免费下载相关推荐Alipay Ruby Gem生产环境部署终极指南监控、日志与性能优化策略Alipay Ruby Gem生产环境部署终极指南监控、日志与性能优化策略 Alipay Ruby Gem是一个非官方的支付宝支付集成库为Ruby开发者提供人工智能AI AgentAgent 框架后端多智能体RAG工具调用Agent 记忆Agent 工作流AI 评测MCP 服务MCP Clients语音Haystack 集成指南用 OrcaRouterChatGenerator 接入 OpenAI 兼容模型路由网关Haystack 集成指南用 OrcaRouterChatGenerator 接入 OpenAI 兼容模型路由网关 OrcaRouterChatGenerat人工智能大模型RAGAI AgentNLPVoltAgent 接入 Moonshot AI中国用模型路由将 Kimi-K2 系列接入 OpenAI 兼容适配器VoltAgent 接入 Moonshot AI中国用模型路由将 Kimi K2 系列接入 OpenAI 兼容适配器 在基于 VoltAgent 构建 A人工智能AI AgentAgent 框架后端多智能体RAG工具调用Agent 记忆Agent 工作流AI 评测MCP 服务MCP Clients语音上一篇如何快速上手coat_mini.in1k从零开始的图像分类实战教程下一篇Vue.js 2.x 计算属性与侦听器提升应用性能的10个最佳实践创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

5个可落地的免费AI Agent工作流实战指南 2026/9/25 3:45:42

5个可落地的免费AI Agent工作流实战指南

1. 这不是工具清单,而是一套可落地的“时间置换系统” “5个免费AI Agent,让我每天省出3小时”——这句话乍看像标题党,但背后藏着一个被多数人忽略的事实:我们真正缺的从来不是工具,而是把AI从“玩具”变成“同事”的…

阅读更多 →
Spring Boot酒店客房管理系统:源码+论文打造完整毕设 2026/9/25 3:45:36

Spring Boot酒店客房管理系统:源码+论文打造完整毕设

简介:酒店客房管理系统毕业设计资料,包含完整源码与论文,面向Java Web课程设计或毕设开发人员,同时也适合需要搭建酒店管理场景的初学者。系统覆盖客房信息管理、客房清扫管理、用户入住管理、会员管理、收藏客房等核心业务&#…

阅读更多 →
GEO全场景智能生态:全栈隐私计算与绿色低碳规模化落地实践 2026/9/25 3:45:35

GEO全场景智能生态:全栈隐私计算与绿色低碳规模化落地实践

GEO这个缩写,去年在圈内还属于小范围讨论的概念,今年已经高频出现在各类招标书和企业战略PPT里。从热搜词的密集程度就能感受到风向的变化:GEO优化、GEO服务商、GEO投毒攻击、GEO数据结构、GEO招标项目……说明大量企业已经越过“要不要做GEO…

阅读更多 →
SpringBoot+Vue校园竞赛管理系统:从需求建模到答辩演示全解析 2026/9/25 3:45:23

SpringBoot+Vue校园竞赛管理系统:从需求建模到答辩演示全解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
STM32F107+LAN8720A以太网调试指南:从CubeMX到LWIP完整流程 2026/9/25 3:45:23

STM32F107+LAN8720A以太网调试指南:从CubeMX到LWIP完整流程

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
jetson-inference 目标检测数据集采集与训练指南:使用 camera-capture 制作 Pascal VOC 数据集 2026/9/25 3:45:17

jetson-inference 目标检测数据集采集与训练指南:使用 camera-capture 制作 Pascal VOC 数据集

人工智能计算机视觉深度学习微调 【免费下载链接】jetson-inference Hello AI World guide to deploying deep-learning inference networks and deep vision primitives with TensorRT and NVIDIA Jetson. 项目地址: https://gitcode.com/gh_mirrors/je/jetson-inf…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉