老马的又一个工程奇迹，专为训下一代Grok打造的「超算巨兽」Colossus 2今天正式上线。它是全球首个达到吉瓦级的AI训练集群。这是什么概念？Colossus 2的用电，要比旧金山全市用电峰值还要高。预计在今年4月，升级到1.5GW，约等于一座大型核电站的输出。
Colossus 2的规模令人窒息：55万张NVIDIA GB200/GB300 GPU，采购成本约180亿美元，部署在田纳西州孟菲斯一座百万平方英尺的仓库中。xAI为此在密西西比州Southaven建造了专属天然气发电厂。
不得不说老马的工程奇迹再一次显现了：
前一代超算集群Colossus 1从无到有仅用了122天，配备约20万颗英伟达H100/H200和约3万颗英伟达GB200 NVL72。
而在此基础上翻了好几倍，功率达到1GW的Colossus 2，只花了仅仅不到一年。
只能说老马的执行力太恐怖了。其他大科技还在为27年的算力基础设施发愁时，xAI已经把最大规模的超短集群都建好了。
这么大的算力将由Grok独享。
马斯克之前曾坚定地表示，xAI有机会通过Grok 5实现AGI。老马还表示Grok 5拥有高达6万亿参数，而且智能密度更高，预计将在上半年发布。
从个人角度，grok最近使用体验越来越丝滑了，而且实时性远超其他几个大模型。
https://x.com/i/status/2012789705964990803
Colossus 2的规模令人窒息：55万张NVIDIA GB200/GB300 GPU，采购成本约180亿美元，部署在田纳西州孟菲斯一座百万平方英尺的仓库中。xAI为此在密西西比州Southaven建造了专属天然气发电厂。
不得不说老马的工程奇迹再一次显现了：
前一代超算集群Colossus 1从无到有仅用了122天，配备约20万颗英伟达H100/H200和约3万颗英伟达GB200 NVL72。
而在此基础上翻了好几倍，功率达到1GW的Colossus 2，只花了仅仅不到一年。
只能说老马的执行力太恐怖了。其他大科技还在为27年的算力基础设施发愁时，xAI已经把最大规模的超短集群都建好了。
这么大的算力将由Grok独享。
马斯克之前曾坚定地表示，xAI有机会通过Grok 5实现AGI。老马还表示Grok 5拥有高达6万亿参数，而且智能密度更高，预计将在上半年发布。
从个人角度，grok最近使用体验越来越丝滑了，而且实时性远超其他几个大模型。
https://x.com/i/status/2012789705964990803
Comments
Be the first to add a comment
Log in to comment