这就是为什么我们需要开源人工智能模型的原因

7月16日，全球最大的AI模型平台Hugging Face @huggingface ，发表了一篇文章，宣布他们被一个全自动AI Agent攻入了他们的服务器。

整个过程中几乎没有人类操作。

攻击从一个恶意数据集开始，Agent串联了数据处理系统中的两个代码执行漏洞，获得节点级权限，窃取云端和集群凭据，并在多个内部集群之间横向移动。

它调用了数千次自动操作，运行在大量短生命周期沙箱中，甚至建立了可以自行迁移的C2控制系统。

Hugging Face最终记录了超过17000个攻击事件。

但更荒诞的事情发生在调查阶段。

Hugging Face最初尝试用美国闭源前沿模型 @ChatGPTapp @claudeai 的API分析日志，但真实的攻击命令、漏洞Payload和C2数据触发了安全护栏，模型直接拒绝工作。

最后，他们只能在自己的服务器上运行中国 @Zai_org 的开源模型GLM 5.2。

GLM 5.2在几个小时内分析完17000多条记录，重建攻击时间线，定位被窃取的凭据，并区分真实攻击和诱饵行为。

如果不是世界上存在GLM5.2这样的开源顶级模型，Hugging Face绝对没有任何能力阻止这次入侵。

因为人类的响应速度远远不如Agent，数百人的安全团队可能都不如同时运行的几个攻击Agent。

这事最有趣的部分是攻击者没有任何安全限制，防守者却被安全护栏拦住了。

当攻击和防御都开始Agent化，真正重要的已经不只是模型能力。

谁能自己运行、审计和控制模型，谁才拥有机器速度时代的安全主动权。

这有点像核武器，很只有形成互相核威慑才可以保证世界的稳定。
https://x.com/i/status/2079153867431051278