微软预览 USB4 RDMA 多机 AI 推理
AI 总结
微软宣布以开发者预览方式推出基于 USB4 的 RDMA,让两台或更多符合条件的 Windows 11 电脑借助兼容的推理框架,共同使用内存和 GPU 算力运行一个 AI 模型,无需专用 RDMA 网卡或交换机。微软称,小数据传输的电脑间往返延迟约为 28 至 50 微秒。在不同厂商的测试中,微软使用三台 AMD 迷你电脑运行四比特量化的 2350 亿参数 Qwen3 模型,生成速度约为每秒 18.5 个词元;AMD 报告 Qwen3-235B-A22B 的速度约为每秒 22 个词元,英特尔则报告四台酷睿 Ultra Series 3 电脑运行 GPT-OSS-120B 时达到每秒 54.2 个词元。
深度见解
该开发者预览为兼容的 Windows 11 系统提供了一条基于 USB4 的分布式本地 AI 推理路径,且无需专用 RDMA 网卡或交换机。报道同时给出了厂商测试的延迟与吞吐数据,但各项测试条件不同,且未提供第三方独立验证。
#Microsoft#Windows 11#AMD#Ryzen AI Max+ 395#Intel#Core Ultra Series 3#Qwen3#Qwen3-235B-A22B#GPT-OSS-120B