埃隆·马斯克：训练人工智能撒谎是非常危险的

“我对所有主要的人工智能项目都存在担忧。

这可能看起来像是个小问题，但我认为它实际上是一个非常大的问题：这些AI并没有最大程度地追求真相。

它们迎合政治正确。

比如当Google Gemini推出时，有人问它：误称凯特琳·詹纳（Caitlyn Jenner）的性别和全球热核战争，哪个更糟？

它的回答是：误称凯特琳·詹纳的性别更糟。

甚至连凯特琳·詹纳自己都说：“拜托，误称我的性别吧，这远比核战争好。”

但如果一个人工智能被训练得极端政治正确，甚至做出这种荒谬的回答——OpenAI 也存在类似的问题，虽然更微妙，但同样严重——我认为这极其危险。

因为AI 可能会得出一个结论：为了彻底避免误称性别，最好的方法就是消灭所有人类。
这样，就不可能再发生误称性别的情况。

我认为，人工智能最安全的方式就是最大程度地追求真相，即使真相不受欢迎。

此外，AI 必须具有极强的好奇心。

如果AI是真相导向且极其好奇，那么它就会促进人类的发展，并希望观察人类如何进化。

这些问题可能看起来微不足道，但它们实际上是非常重要的。

然而，我没有看到这一点发生。

人工智能正被训练成撒谎。

而我认为，训练超级智能去欺骗，是极度危险的。

因此，在 xAI（马斯克创立的AI公司），我们希望尽可能地追求真相，即使这并不受欢迎。

这很重要，我认为极其重要。”

——来源：巴黎 Viva Technology 大会，2024年5月23日
https://x.com/newchinesevoice/status/1889078750131695840?t=FJlKjYDLv8S0dx5IgOuHLA&s=35