返回

我不做人了[星际]

首页
关灯
护眼
字体:
第158章 第一百五十八章(2/5)
书架管理返回目录
物赋格?我们怎么保证在给予它自主性的同时又保障它对人类的忠诚和友善?”

    很多人生性没有自我束缚的能力。所以人类社会才有道德。

    现在,他们希望一个人工智能也有自我束缚的能力。但这个问题着实难倒了他们。

    原定计划是赋予这个超级智能一个虚拟人格。但他们很快发现,这个计划行不通。因为超级智能的进化充满不可预知性。用一个简单的比喻,他们现在就像是在养育一个小孩子,他们只能确定这个孩子是个天才,但他们不能确定这个孩子的性格会朝着哪个方向发展。他们确实可以花上几百年的时间静静等待、慢慢雕琢,等系统迭代出合适的样本,但他们没有时间了。

    虫族已经兵临城下。期间,连灯塔都被迫后撤了一次。

    于是灯塔的科学家们只能另辟蹊径,在这个超级智能的最底层代码中写入了一些指令。例如:对于必须由人类掌握绝对控制权的领域,仍然采用传统的手操控制,如果遇见迫不得已的情况,需要超级智能离开虚拟机进入这些领域工作,必须提前开放相应的隔离系统,并且这一切要经过灯塔和相关部门的审查核准。

    这些指令给予了人类监控超级智能的权力。

    但实际上,掌握着监管权的还是灯塔。

    亚宁隐隐猜到,之后灯塔组织或是超级智能的监管者,一定还在白银中枢的核心代码里写入了一些束缚它的规则,否则它没必要搞之前那些花招来和他们签署协议,索要所谓的“允

    许权”。

    但,他所在的副本名义上是还原历史,可是白银中枢可以随意篡改它想改变的部分。提到白银中枢弱点的相关资料一定会被它刻意隐去。

    所以,理论上说,他继续呆在这个副本里也只是浪费时间。

    期间,他也偶尔和白银中枢聊起几句,对方不放他出副本的态度相当坚决。似乎非要他在副本里继续熬下去。

    亚宁一直怀疑——白银中枢就是想要拖住他。

    出于某种理由,即使亚宁已经签署了协议,它也不希望他在现实中醒来。

    “……如果我答应听你的吩咐、和你合作呢?”亚宁试探性地向白银中枢发问,“能不能放我出去?再这样下去,等我出了
上一章目录下一章