【免费下载链接】Nex-N2.5-mini项目地址https://ai.gitcode.com/hf_mirrors/nex-agi/Nex-N2.5-mini点击查看免费下载本篇技术指南围绕开源仓库Nex-N2.5-mini展开完整讲解 Nex-N2.5 系列模型中 mini 尺寸版本的定位、仓库结构与权重组织、基于 SGLang 的 Docker 部署方案、推荐采样参数、reasoning_effort思考模式、函数调用与推理解析器的配置方法。读者学完后可以独立完成 Nex-N2.5-mini 的本地/云端推理服务搭建并通过 OpenAI 兼容接口以不同思考模式调用该模型同时理解其背后的 MoE 混合注意力架构与多模态视觉接口实现。模型概览Nex-N2.5 家族与 mini 版本定位Nex-N2.5 是 Nex-AGI 推出的新一代智能体agentic模型家族定位是为真实世界环境中的长时程任务而生long-horizon tasks in real-world environments。整个家族包含三个尺寸版本Nex-N2.5-mini轻量级版本即本仓库所对应的开源权重Nex-N2.5-Pro中端版本Nex-N2.5-Max基于 1.6 万亿参数、纯文本 Mixture-of-ExpertsMoE基座模型构建是 Nex-AGI 首次在万亿参数规模完成系统性后训练post-training的成果。其中 mini 与 Pro 延续了 Nex-N2 的多模态基座能力重点改进了计算机使用computer use、网页浏览web browsing与视觉锚定的智能体能力。Nex-N2.5 系列的一个核心观点是视觉不再仅仅是输入模态而是智能体感知环境、验证结果、推进任务的关键接口——模型可以持续操作计算机与浏览器、自主执行并测试程序并通过视觉反馈进行自我纠正。这正对应了本仓库中完整的视觉编码器vision encoder权重与多模态预处理器配置。三个尺寸的权重均已开源托管于 Hugging Face 与 ModelScope并可通过 OpenRouter 等托管服务在线调用本仓库即为其中 Nex-N2.5-mini 的权重发布形态。仓库结构与权重组织本仓库是一份完整的 HuggingFace 模型仓库核心文件如下文件作用config.json模型架构配置MoE 文本主干 视觉编码器、特殊 token id、上下文长度等chat_template.jinja聊天模板消息格式、思考reasoning包裹、工具调用tool call格式tokenizer_config.json分词器配置与特殊 token 定义processor_config.json图像/视频预处理器配置Qwen3VLProcessormodel.safetensors.index.json权重分片索引model-00001-of-00016.safetensors ~ model-00016-of-00016.safetensors16 个权重分片figures/Nex-N2.5-Benchmark-white.png官方基准测试概览图从 model.safetensors.index.json 的metadata.total_size可以看到全部权重合计70,214,363,872 字节约 70.2 GB / 65.4 GiB被切分为 16 个 safetensors 分片。权重映射暴露了模型内部结构model.visual.*为视觉编码器patch embed、27 层 ViT block、merger 投影model.language_model.layers.*.linear_attn.*为线性注意力层含conv1d、A_log、dt_bias等 Mamba 风格状态空间参数model.language_model.layers.*.self_attn.*为全注意力层model.language_model.layers.*.mlp.experts.*与mlp.shared_expert.*为 MoE 专家与共享专家权重。架构速览从 config.json 看模型结构config.json 是本仓库最有价值的源码级证据它揭示了 Nex-N2.5-mini 的底层架构设计文本主干text_configmodel_typeqwen3_5_moe文本子类型qwen3_5_moe_textarchitectures为Qwen3_5MoeForConditionalGenerationtransformers_version为 5.2.0权重精度为 bfloat16层结构共40 层layer_types呈现规律的混合注意力模式——每 4 层中 3 层为linear_attention线性注意力、1 层为full_attention全注意力对应full_attention_interval: 4。全注意力层集中在第 3、7、11、15、19、23、27、31、35、39 层线性注意力层采用 Mamba/SSM 风格实现linear_conv_kernel_dim: 4、linear_num_key_heads: 16、linear_key_head_dim: 128、linear_value_head_dim: 128、linear_num_value_heads: 32、mamba_ssm_dtype: float32这解释了 README 部署命令中--mamba-scheduler-strategy extra_buffer参数的存在意义全注意力层16 个注意力头、head_dim256、num_key_value_heads2GQA 分组查询注意力、attn_output_gate: true、attention_bias: falseMoE 结构num_experts: 256256 个专家、num_experts_per_tok: 8每个 token 激活 8 个专家、moe_intermediate_size: 512、shared_expert_intermediate_size: 512带共享专家、router_aux_loss_coef: 0.001位置编码RoPErope_theta: 10000000、partial_rotary_factor: 0.25、mrope_interleaved: true且mrope_section: [11, 11, 10]多模态 RoPE上下文长度max_position_embeddings: 262144256K与 tokenizer 的model_max_length一致词表vocab_size: 248320另有mtp_num_hidden_layers: 1的多 token 预测头。视觉编码器vision_configdepth: 27层、hidden_size: 1152、intermediate_size: 4304、16 个注意力头patch 化patch_size: 16、temporal_patch_size: 2可处理视频、spatial_merge_size: 2out_hidden_size: 2048与文本主干hidden_size对齐视觉 token 由 tokenizer_config.json 定义|vision_start|/|vision_end|/|image_pad|/|video_pad|对应 id 分别为 248053 / 248054 / 248056 / 248057。多模态预处理器processor_config.json图像处理器patch 16、merge 2、longest_edge: 16777216/shortest_edge: 65536的超大分辨率上限归一化 mean/std 均为 0.5、rescale 1/255视频处理器fps: 2、max_frames: 768、min_frames: 4支持抽帧采样处理类为Qwen3VLProcessor与 tokenizer 配置中的processor_class一致。上述结构意味着 Nex-N2.5-mini 在推理时需依赖支持该混合注意力 MoE 架构的推理框架——README 明确推荐使用官方定制版 SGLang下文详述。性能表现Nex-N2.5 在编码、智能体工作流、计算机使用与多模态理解四个维度上进行了评测官方给出的基准概览如下图所示下表对比 Nex-N2.5-mini、Nex-N2.5-Pro、Nex-N2.5-Max 与多款业界领先模型。加粗表示该基准上的最优成绩含并列— 表示无可用数据。文本基准Text BenchmarksBenchmarkNex-N2.5-miniNex-N2.5-ProNex-N2.5-MaxClaude Opus 5GPT-5.6 SolKimi-K3GLM-5.3DeepSeek-V4-Pro-0813Qwen3.8-MaxCODINGTerminal-Bench 2.173.482.786.189.188.888.388.287.986.6SWE-Bench Pro43.861.265.779.264.663.364.655.467.7DeepSWE v1.136.155.865.673.772.767.566.962.869.3AGENTICAutomationBench v1.0.632.344.250.250.345.846.748.243.239.8Toolathlon Verified54.668.574.776.574.976.573.074.172.5GDPval-AA v2144616281713183117111675176315801717Job Bench28.541.453.665.745.452.958.254.153.4BrowseComp83.489.792.690.890.491.2———多模态基准Multimodal BenchmarksBenchmarkNex-N2.5-miniNex-N2.5-ProMiniMax-M3Claude Opus 5GPT-5.6 SolKimi-K3GLM-5.3-FlashDeepSeek-V4-Flash-VisionQwen3.8-MaxOSWorld-Verified71.282.275.283.483.284.862.376.786.1OSWorld-230.556.422.368.362.758.3——46.7WebTest48.652.8——54.0———52.3WebArena-Verified63.467.6——69.771.6—62.366.8OSWorld-G82.987.4—76.877.779.683.359.484.9Vision2Web52.968.259.0—79.8———75.1SWE-MM25.538.2—59.440.237.320.639.239.2OmniDoc89.792.291.6—92.991.1——92.1评测口径说明摘自 README 脚注分数来源有公开来源的取自官方排行榜与各模型厂商最新评测报告无公开来源的结果由官方自测获得采样参数官方评测统一使用temperature 0.7、top_p 0.95、top_k 40编码类任务使用 NexAU 评测框架计算机使用/浏览器类任务OSWorld、WebTest、WebArena使用 NexCUA 评测框架grounding 坐标归一化到 0–1000 尺度BrowseComp 在 token 用量超过上下文窗口 60% 时启用 Summary 上下文压缩策略Vision2Web 取 Frontend/Webpage/Website 三类平均分WebTest 为 oracle 模式仅用真值清单评估缺陷检测。Docker 部署基于定制版 SGLangREADME 为 Nex-N2.5 提供了预构建的 Docker 镜像nexagi/sglang:v0.5.18-nex-patch内置官方定制版 SGLang fork三条部署命令覆盖 Max / Pro / mini 三个尺寸。当前仓库对应 mini 版本硬件基线为单节点 2 × H100。Nex-N2.5-mini本仓库docker run --gpus all --shm-size 32g --ipchost \ -p 30000:30000 \ -v /path/to/your/model:/model \ nexagi/sglang:v0.5.18-nex-patch \ python3 -m sglang.launch_server \ --model-path /model \ --tp 2 \ --host 0.0.0.0 --port 30000 \ --reasoning-parser qwen3 \ --tool-call-parser qwen3_coder \ --chat-template /path/to/nex-N2.5-mini/chat-template.jinja \ --mamba-scheduler-strategy extra_buffer参数说明--tp 2张量并行度为 2对应 2 张 H100--reasoning-parser qwen3将模型的思考过程reasoning trace从最终回答中剥离见推理解析器小节--tool-call-parser qwen3_coder启用函数调用解析见函数调用小节--chat-template指定聊天模板。本仓库根目录即提供了 chat_template.jinja可直接使用--mamba-scheduler-strategy extra_buffer与模型中 40 层里占 3/4 的线性注意力Mamba 风格层配套的调度策略用于长上下文场景下为状态空间缓存预留额外 buffer。Nex-N2.5-Pro单节点 8 × H100docker run --gpus all --shm-size 32g --ipchost \ -p 30000:30000 \ -v /path/to/your/model:/model \ nexagi/sglang:v0.5.18-nex-patch \ python3 -m sglang.launch_server \ --model-path /model \ --tp 8 \ --host 0.0.0.0 --port 30000 \ --reasoning-parser qwen3 \ --tool-call-parser qwen3_coder \ --chat-template /path/to/nex-N2.5-Pro/chat-template.jinja \ --mamba-scheduler-strategy extra_bufferNex-N2.5-Max多节点 2 节点 × 16 × H200# 每个节点运行相同命令其中 # node-rank 0 为主节点1 为另一节点 # node0-ip 主节点 IP需被所有节点访问 docker run --gpus all --shm-size 32g --network host \ -v /path/to/your/model:/model \ nexagi/sglang:v0.5.18-nex-patch \ python3 -m sglang.launch_server \ --model-path /path/to/your/model \ --trust-remote-code \ --host 0.0.0.0 \ --port 8000 \ --nnodes 2 \ --node-rank ${NODE_RANK} \ --dist-init-addr ${MASTER_ADDR}:5000 \ --tp 16 \ --pp-size 1 \ --dp 1 \ --ep-size 16 \ --attention-backend dsv4 \ --kv-cache-dtype fp8_e4m3 \ --page-size 256 \ --moe-a2a-backend deepep \ --moe-runner-backend deep_gemm \ --moe-dense-tp-size 1 \ --deepep-mode auto \ --context-length 262144 \ --mem-fraction-static 0.84 \ --chunked-prefill-size 8192 \ --enable-mixed-chunk \ --disable-overlap-schedule \ --max-running-requests 64 \ --cuda-graph-max-bs-decode 64 \ --cuda-graph-backend-decode full \ --cuda-graph-backend-prefill disabled \ --chat-template /path/to/nex-n2.5-max/chat_template.jinja \ --reasoning-parser deepseek-r1 \ --tool-call-parser qwen3_coderMax 命令中的关键参数--ep-size 16与--moe-a2a-backend deepep、--moe-runner-backend deep_gemm是针对万亿级 MoE 的专家并行expert parallelism与 all-to-all 通信优化--attention-backend dsv4、--kv-cache-dtype fp8_e4m3、--page-size 256面向 262144 超长上下文做 KV 缓存压缩--enable-mixed-chunk与--disable-overlap-schedule用于混合 chunk 调度--cuda-graph-max-bs-decode 64等参数控制解码阶段 CUDA Graph 批大小。部署前提与限制以上命令均假定已安装 NVIDIA 容器运行时--gpus allmini 版本推荐硬件为 2 × H100Pro 为 8 × H100Max 为 2 节点共 16 × H200多节点需保证节点间网络互通主节点端口 5000 用于分布式初始化镜像nexagi/sglang:v0.5.18-nex-patch为官方定制版 SGLang建议直接使用而非自行编译以保证对混合注意力与 MoE 架构的完整支持启动后服务默认暴露 OpenAI 兼容的 Chat Completions 接口如http://localhost:30000--port可自行调整。推荐采样参数为获得最佳生成质量官方推荐的采样参数为temperature0.7top_p0.95top_k40这一组参数与官方评测所用的采样配置完全一致见上节评测口径可视为该模型的官方默认调校。思考模式用 reasoning_effort 控制推理行为Nex-N2.5 通过reasoning_effort字段控制思考行为共三档模式reasoning_effort模式行为none非思考模式Non-thinking不输出推理过程直接作答medium默认自适应思考Adaptive thinking由模型自行决定是否思考、思考多少high思考模式Thinking回答前总是先启用思考自适应思考模式下只需在 OpenAI 兼容的 Chat Completions 请求中设置reasoning_effort为mediumserved-model-name替换为服务端暴露的模型名{ model: served-model-name, messages: [ {role: user, content: Explain how binary search works.} ], reasoning_effort: medium }底层实现聊天模板 chat_template.jinja 在生成提示词generation prompt阶段直接消费reasoning_effort变量——none时输出空的think\n\n/think\n\n块high时输出开放的think\n未设置或为medium/其他值时输出think让模型自行续写推理内容。需要注意enable_thinking、thinking_mode等参数不直接生效需要由 API 网关将其翻译为reasoning_effort后再透传给聊天模板。函数调用Function CallingNex 系列模型支持稳健的函数调用能力。启动服务时添加--tool-call-parser qwen3_coder标志即可启用python -m sglang.launch_server --model-path /path/to/your/model --tool-call-parser qwen3_coder从 chat_template.jinja 可以看到函数调用的完整协议系统提示词中会注入tools.../tools工具清单模型被要求仅以如下格式发起调用无后缀tool_call functionexample_function_name parameterexample_parameter_1 value_1 /parameter parameterexample_parameter_2 This is the value for the second parameter that can span multiple lines /parameter /function /tool_call模板同时支持多步工具调用multi-step tool use当工具结果以tool_response.../tool_response形式包裹并回填到用户消息中时模板会将其归并到同一轮工具循环multi_step_tool检测逻辑直到出现真正的用户查询。模板还对工具参数做了 JSON 序列化tojson处理以支持嵌套对象与数组类型的参数。另外注意系统消息中不允许包含图片或视频模板会直接抛出异常System message cannot contain images.。推理解析器Reasoning Parser当模型产生推理过程reasoning trace时需要配置 SGLang 将思考内容与最终回答分离Nex-N2.5-mini 与 Nex-N2.5-Pro--reasoning-parser qwen3Nex-N2.5-Max--reasoning-parser deepseek-r1上述部署命令中已包含各自对应的推理解析器与--tool-call-parser qwen3_coder。解析器负责从生成结果中提取思考内容而具体采用哪种思考模式则由reasoning_effort决定。二者的协作关系是解析器解决怎么切分格式层reasoning_effort解决想不想/想多少行为层。小结Nex-N2.5-mini 是一个面向真实环境长时程智能体任务的多模态 MoE 模型以 40 层混合线性/全注意力为文本主干、256 专家 MoE 与 27 层视觉编码器支撑视觉锚定能力支持 262144 token 超长上下文并可通过定制版 SGLang 一键部署为 OpenAI 兼容服务。部署时建议严格采用官方 Docker 镜像与 README 中的启动参数--reasoning-parser qwen3、--tool-call-parser qwen3_coder、--mamba-scheduler-strategy extra_buffer采样侧以temperature0.7 / top_p0.95 / top_k40为基准并通过reasoning_effort在非思考、自适应思考与深度思考三档之间按场景切换即可获得完整、稳定的智能体推理体验。仓库内的 config.json、chat_template.jinja 与 processor_config.json 是深入理解其架构与协议细节的一手资料。赞分享【免费下载链接】Nex-N2.5-mini项目地址https://ai.gitcode.com/hf_mirrors/nex-agi/Nex-N2.5-mini点击查看免费下载相关推荐Nex-N2.5-mini chat_template.jinja逐行精讲154行完整解析工具调用XML格式、多步工具链与思考块Nex N2.5 mini chat_template.jinja逐行精讲154行完整解析工具调用XML格式、多步工具链与思考块 这篇文章对开源多模态智能体模Nex-N2.5-mini函数调用实战qwen3_coder工具解析器多步工具链流程附完整示例Nex N2.5 mini函数调用实战qwen3_coder工具解析器多步工具链流程附完整示例 Nex N2.5 mini 是 Nex AGI 开源的轻量Nex-N2.5-mini的3种思考模式怎么选reasoning_effortnone/medium/high深度解析与实践建议Nex N2.5 mini的3种思考模式怎么选reasoning_effortnone/medium/high深度解析与实践建议 Nex N2.5 min创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考