Windows 11 啟用 USB4 RDMA,支援多台 PC 無需網絡交換機協同進行 AI 推理
不用交换机!微软Windows11上线USB4 RDMA:多机合体做AI推理
微軟在 Windows 11 啟用基於 USB4 的 RDMA,讓多台 PC 無需專用網卡或網絡交換機即可串聯處理大型工作負載。雙機互聯實測中,USB4 RDMA 延遲為 28 至 50 微秒;同一 USB4 鏈路上採用 UDP 封包的以太網方案為 116 至 194 微秒。
快科技11月22日消息,据TECHPOWERUP报道,微软在Windows11上启用了基于USB4协议的远程直接内存访问(RDMA)技术,无需专用网卡或配置网络交换机,即可将多台PC串联起来,共同处理大型工作负载。
这意味着AI推理不再受单机规格限制,能分散到几台互联设备上处理数据,上限取决于设备数量与各自配置。
微软还公布了实测数据:在双机互联环境下,利用RDMA技术,通过USB4连接的延迟在28至50微秒之间。
作为对比,同一USB4链路上通过UDP封包的以太网方案为116至194微秒,大约是RDMA的四倍。更低延迟的最大受益者是对响应敏感的任务,AI推理便在其中。
USB4单链路最高数据传输速率为80Gbps,足够支撑内存之间的数据搬运。每台PC构成独立的USB4域,Windows连接管理器在两者之间创建点对点隧道,数据在双方已注册的内存区域之间直接传输,不经过额外的封包与解包环节。
RDMA的作用是让一台机器直接读写另一台机器的内存,绕开双方操作系统协议栈,CPU不必参与每一次搬运。
这种方式把原本只有以太网卡和InfiniBand才有的能力搬到了一根普通数据线上,代价是集群规模受限于USB端口数量,而不是网络交换机。

【本文结束】如需转载请务必注明出处:快科技
责任编辑:鹿角
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn