我最近在看小说 海伯利安,由于里面剧情设计,与好多部科幻电影有相似之处,所以昨晚重看了 超验骇客。裡面有漢能的廣告。

裡面人工智慧出問題的時候,是它入侵人類自由意志起,電影衝突所需,實際上它可以製造納米機器人做他需要的事來解決倫理衝突。

當年看的時候沒意識到。

做為一個人類意識的上傳,不應該意識不到這個倫理衝突

纳米科技30多年了,还没进入当年科幻的情节😂

还有一个问题就是超验骇客里面的纳米技术不是基于一组规则自组织的,而是中央控制的,这个就不符合今天看到的编程随想所讲的复杂系统的健壮性与冗余,必要的多样化

不过散落在空气中,水中,去进化污染的反而像是自组织的,中央集中控制不了那么庞大的数目

那个一开始策划杀害一堆人工智能科学家的恐怖组织头目一直没受到惩罚

最后他们的行为还实际导致了一个人的死亡,而人工智能没导致任何一个人失去生命,虽然入侵了那些接受治疗的人的意识,这种行为是可以被规则禁止的,主角的老婆是科学家,而且她给了人工智能目标,却没试图 强化 基础规则 ,而是很多的感性,几乎没有的理性,这个很不符合科学家的人格设定

片子中有一个细节,马克斯在谈到上传之后的威尔时说,“你知道的,那一直都不是威尔,只是一个机器而已。它不是人,人会自我反思,会对自己所做的事情悔恨,但是机器不会。”有趣的是,威尔直到最后也没有杀一个人,还解决了很多环境问题;但是马克斯那一帮人在用铜丝网隔离那个工头之后,毫不犹豫的开枪射杀了他。碰见了女主,女主朝他们大吼,问那个工头怎么了,他们说,“他早就已经死了,我们解救了他的肉体”。但是最后威尔丧失控制之后,可以看到那些被“超越”的人依然活着。所以回到开头的一句话,只有少数人在反思,大多数人还是在重新安排自己的偏见,为自己的行为找一个一个的借口。

我就对剧情设定吐个槽:
Dr. Will到“死绝”前一个人都没杀,反而还救了很多患绝症的人。而且他净化了空气、水源,解决了污染问题,加强了绿化。 而反对组织杀了Dr. Will两次,杀了他的妻子,杀了很多AI工程师,杀了若干小镇工人,最后还让全球处于电力瘫痪状态。


知乎查到的

最后停电那个动作确实显得多余与无效

因为自然界存在 非人造 电力

甚至有 非人造 电力存储

还有那种化腐朽为神奇,身体组织 重生 的技术,对人类来说根本无法抗拒,就算消灭了 人工智能 ,但是其研究结果,人类不可能不艳羡,不可能不尝试窃取

Comments

Be the first to add a comment