Qwen-Image-2.1在DGX Spark上部署成功
AI 总结
据《掘金·人工智能》作者报道,Qwen-Image-2.1已在采用GB10 GPU、121GB CPU/GPU统一内存和ARM64架构的NVIDIA DGX Spark上完成部署。GPUStack托管的服务提供OpenAI兼容接口,支持文生图、图像编辑、原生透明背景和LoRA;实测1024×1024、40步文生图耗时49秒,常驻内存38GB。文章还记录了ARM64镜像构建、依赖隔离、网络排障、部署和网关配置过程。
深度见解
这篇单来源实录展示了紧凑型硬件上的ARM64图像生成部署,并提供OpenAI兼容接口和具体部署步骤,但相关结果尚无独立佐证。
一台 2025 年底上市的 ARM 小盒子。121GB 统一内存,一块 GB10,官方文档里写着这类模型跑不了它的架构。
现在它对外提供一个 OpenAI 兼容的图像接口,文生图、改图、原生透明底、LoRA 四项全通。硬件一点没动,驱动没升级,也没有第二台机器。
把镜像变成团队里人人能调的服务,中间那段是 GPUStack 接过去的。下面记录整个过程:先判断 ARM 到底能不能跑,再处理构建、网络、部署和网关问题。
01 · 文档说不支持,我先去验一句
机器是 DGX Spark,GB10,aarch64 架构。驱动 580.173.02,CUDA 13.0,121GB 内存由 CPU 和 GPU 共用。
| 项目 | 实测环境 |
|---|---|
| 设备 | NVIDIA DGX Spark |
| GPU | GB10 |
| 架构 | aarch64 / sm_121 |
| 驱动 | 580.173.02 |
| CUDA | 13.0 |
| 内存 | 121GB CPU/GPU 统一内存 |
#Qwen-Image-2.1#NVIDIA DGX Spark#NVIDIA GB10#GPUStack#vLLM-Omni