AI算力的最大瓶颈已经换人了。
GPU不再是唯一卡脖子的资源。
Dylan Patel的最新观察给出了一个反直觉的事实。
全网云市场的CPU正在被快速抽干。
以前的算力比例是极其悬殊的。
100兆瓦的GPU集群,配不到1兆瓦的CPU就足够对付。
早期的AI只会做简单的文字进出。
CPU只需要在旁边干点存储和预处理的轻活。
o1模型和智能体工作流的爆发掀翻了这个天平。
现在的模型早已摆脱了安静对话框的设定。
它们要在后台跑无数次代码单元测试。
它们要编译程序并频繁调用数据库。
甚至还要去跑极度消耗性能的物理和生物模拟。
一个代码智能体现在能连续自主工作六七个小时。
这些全都是实打实压在CPU上的重负载。
过去半年里,代码智能体带来的营收从几十亿美元飙到超百亿美元。
代价就是各大云厂商的通用算力冗余彻底归零。
亚马逊今年的CPU服务器安装量直接翻了三倍。
各种满负荷运转带来的副作用已经开始显现。
很多程序员最近都在抱怨GitHub频频宕机。
代码提交经常毫无征兆地失败。
真相非常现实。
微软为了满足大模型的恐怖胃口,把能抠出来的闲置CPU全借调出去了。
大头都给了OpenAI和Anthropic这些签了约的外部实验室。
算力军备竞赛的战场已经全面扩容。
现在的AI巨头连一颗闲置的CPU都不打算放过。
https://x.com/i/status/2044000084749168926