原本必须死死贴在 GPU 脸上 1.5 毫米的显存,被一口气拉到了 50 米外。
整整拉远了三万多倍。
显存必须紧挨着算力芯片的物理铁律,被打破了。
在纽交所的演播室里,美满电子(Marvell)的高管戴夫·拉佐夫斯基(Dave Lazovsky),指尖捏着一个方寸大小的模块。
模块银框黑底,尾部垂着一束纤细的光纤。
这是 Marvell 首次对外展示的光互连高带宽内存模块。
指甲盖大小的底座上,集成了两叠高带宽内存(HBM),还能扩展支持八叠 DDR5。
它是怎么突破物理极限的?
靠光子网络。
过去铜线走电信号,跑太远信号就衰减失真,换成光互连,传输距离直接放宽到 50 米。
把显存拉这么远,图什么?
图的是把算力和显存彻底松绑。
在现有的架构里,显存被焊死在计算芯片旁边。
大模型参数暴涨,显存不够用,你只能捏着鼻子连同最贵的算力核心一起捆绑加购。
一旦用光互连解耦,数据中心的玩法全变了。
按拉佐夫斯基现场给出的架构,单台设备能塞进 32 到 33 TB 的超大显存,跑出 115 Tbps 的光互连带宽。
这意味着数据中心可以在 50 米外,单独搭建集中的“显存农场”。
GPU 算力不够加算力,显存吃紧扩显存。
这目前还是 Marvell 端出的技术架构展示,从原型走向机房规模商用部署,还有工程关要过。
但用光通信拆掉铜互连的物理篱笆,方向已经明牌了。
算力归算力,显存归显存。
AI 军备竞赛底层的经济账,要重算了。
x.com/MarvellTech/st…
https://x.com/mubeitech/status/2112439984892350632