新闻详情

新闻详情

首页 / 资讯中心 / 详情

Qwen-Image-2.1部署实战:基于vLLM-Omni搭建图像生成 API 服务

发布时间:2026/10/1 17:04:05来源:尧图网络
Qwen-Image-2.1部署实战:基于vLLM-Omni搭建图像生成 API 服务
Qwen-Image-2.1部署实战基于vLLM-Omni搭建图像生成 API 服务摘要Qwen-Image-2.1一、环境说明二、创建 Conda 环境三、下载模型四、安装 vLLM-Omni五、启动 API 服务六、验证服务七、接口调用7.1 文生图八、性能参考摘要本文记录了使用 vLLM-Omni 部署 Qwen-Image-2.1 图像生成模型的完整过程包括环境准备、源码安装、模型下载、服务启动、OpenAI 兼容 API 调用Qwen-Image-2.1Qwen-Image-2.1 是通义千问推出的图像生成与编辑模型支持文生图、参考图编辑原生支持多张参考图和透明背景。本文使用 vLLM-Omni 将其部署为 OpenAI 兼容的 API 服务方便其他程序调用。一、环境说明项目内容操作系统UbuntuGPUNVIDIA RTX A6000 48GBCUDA13.2Python3.12Conda 环境模型Qwen/Qwen-Image-2.1推理框架vLLM-Omni服务端口8000二、创建 Conda 环境conda create-nvllm-omnipython3.12-yconda activate vllm-omni安装 PyTorch 和 vLLMpipinstalltorch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu130 pipinstallvllm0.29.0配置国内 pip 镜像加速依赖下载pip configsetglobal.index-url https://pypi.tuna.tsinghua.edu.cn/simple pip configsetglobal.trusted-host pypi.tuna.tsinghua.edu.cn三、下载模型使用 ModelScope 下载pipinstall-Umodelscope modelscope download--modelQwen/Qwen-Image-2.1--local_dir/data/models/Qwen-Image-2.1下载完成后确认目录包含model_index.json transformer/ vae/ text_encoder/ scheduler/ tokenizer/四、安装 vLLM-Omnimkdir-p/data/appsgitclone https://github.com/vllm-project/vllm-omni.git /data/apps/vllm-omnicd/data/apps/vllm-omnigitfetch origin pull/7759/head:qwen-image-2.1gitcheckout qwen-image-2.1 conda activate vllm-omni pipinstall-e.验证安装python-cimport vllm_omni; print(vllm_omni.__file__)输出应指向/data/apps/vllm-omni/vllm_omni/__init__.py。五、启动 API 服务推荐用 tmux 挂后台避免终端关闭导致服务中断。tmux new-svllm-serve conda activate vllm-omnicd/data/apps/vllm-omni vllm serve /data/models/Qwen-Image-2.1\--omni\--host0.0.0.0\--port8000\--served-model-name qwen-image启动成功后按 CtrlB 再按 D 退出 tmux服务继续运行。查看日志tmux attach -t vllm-serve六、验证服务健康检查curlhttp://localhost:8000/health查看模型列表curl-shttp://localhost:8000/v1/models|python-mjson.tool应看到{id:qwen-image,...}七、接口调用7.1 文生图接口POST /v1/images/editscurl 示例curl-XPOSThttp://localhost:8000/v1/images/edits\-Fmodelqwen-image\-Fimageinput.png\-Fprompt把背景换成海滩\-Fsize1024x1024\-Fnum_inference_steps40\-oedited_output.png当前 vLLM-Omni 分支限制单次最多 4 张参考图模型原生支持 10 张。八、性能参考项目数值分辨率1024×1024推理步数40单张耗时约 35 秒显存占用约 30GB硬件RTX A6000 48GB
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

ESXi 防火墙 IP 白名单:esxcli 限制 vSphereClient 443 访问 2026/10/1 17:03:53

ESXi 防火墙 IP 白名单:esxcli 限制 vSphereClient 443 访问

1. 先想清楚:为什么 ESXi 的 Web 管理页面必须做 IP 白名单ESXi 装完之后,默认状态是任何一个能通到管理 IP 的设备,打开浏览器敲上https://主机IP就能看到登录框。这个登录框背后是 hostd 服务在 TCP 443 上提供的 Host Client(v…

阅读更多 →
容器安全落地指南:从镜像扫描到K8s策略与CI门禁 2026/10/1 17:03:53

容器安全落地指南:从镜像扫描到K8s策略与CI门禁

简介:这是一份由个人翻译的 NIST SP 800-190《应用容器安全指南》中文版,面向系统和安全管理员、安全程序管理员、信息系统安全员及应用程序开发人员,也适合对容器安全感兴趣的运维与架构师。文档以操作系统虚拟化与应用程序打包为背景&#…

阅读更多 →
C语言数据结构:双链表详解 2026/10/1 17:03:46

C语言数据结构:双链表详解

1. 引言 链表是 C 语言中非常基础且重要的数据结构。与数组不同,链表通过指针将一系列节点串联起来,不需要连续的内存空间。而双链表(Doubly Linked List)在单链表的基础上,每个节点额外增加了一个指向前驱节点的指针&…

阅读更多 →
YOLOv9融合PPA模块:红外小目标检测精度提升实战 2026/10/1 17:03:46

YOLOv9融合PPA模块:红外小目标检测精度提升实战

做目标检测的人应该都有同样的感受:模型在常规数据集上跑得再好,一到红外小目标场景就原形毕露。小目标本身占的像素少,红外图像又普遍存在信噪比低、背景复杂的问题,检测器经常把地面上的热源当目标,或者干脆漏检。我…

阅读更多 →
uni-app项目集成uView UI的原理与避坑指南 2026/10/1 17:03:46

uni-app项目集成uView UI的原理与避坑指南

1. 项目概述:为什么在uni-app里非得用uView UI?最近帮三个不同行业的客户重构小程序,全都是从原生微信小程序或H5迁过来的,统一选了uni-app。不是因为“跨端”这个标签多响亮,而是实打实算过账:一个团队、一…

阅读更多 →
OpenCV安装全攻略:pip、cv2报错、虚拟环境与CUDA编译 2026/10/1 17:03:40

OpenCV安装全攻略:pip、cv2报错、虚拟环境与CUDA编译

很多人第一次装 OpenCV,卡住的地方往往不是写代码,而是"装"本身。你可能在论坛里见过这样的提问:pip install opencv-python 明明显示 Successfully installed,可一进编辑器敲下 import cv2,立刻红波浪线加一…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉