🚨马斯克说了一句让整个AI安全圈不安的话：

你根本无法控制一个比你更聪明的东西。

他的类比很直接：想象你有一个天才孩子，你知道他终将远超你的智识水平——你能做什么？

不是规则，不是限制，不是紧急关闭按钮。

只有在他还小的时候，把正确的价值观装进去。

诚实、利他、有道德。

现在全球的AI安全讨论都在设计控制机制，但控制的前提是你比它聪明。

那个前提，正在消失。

留给"把价值观装进去"的窗口，快关上了。
https://x.com/i/status/2033389866524741884