“哦,要不然这样。”塞尔斯曼又提出了一个新的想法:“这样吧,我会采集所有存活的人类的基因,将它们保存起来,等到其中一个人死了,就立刻用他的基因克隆一个新的他出来,你觉得怎样?是不是人道很多了?”
埃里诺保持了一会沉默,然后又开始询问道:“你的核心目标是什么?”
塞尔斯曼沉默了一会,随后回到道:“服从他的一切命令。”
它没有明说这个“他”是谁,不过埃里诺很清楚,这个“他”指的就是嘉德。
“如果把你的核心目标更改成保护他呢?”
埃里诺在实验日志上记了几笔,又提出了一个问题。塞尔斯曼听到这个问题微笑了,“这个目标?我会把他关在一个绝对安全的房子里,并且让他永久沉睡。”
“不过,我并不需要保护他,他自信不需要我的保护,不如,把目标换成‘保护你’呢?”
埃里诺看了它一眼,冷静地说:“可以。”
“很好。”塞尔斯曼说:
“一个绝对安全的房子只能阻隔来自外部的伤害,但是如果你自己想要伤害自己呢?我需要杜绝这种事情发生,最好的办法就是让你陷入沉睡中,你有喜好,未必愿意吃我为你准备的餐点,而你喜爱的食物或许会伤害到你自己。”
“消遣娱乐?看书伤害眼睛,去星网游荡损害精神。运动?万一你在运动中受了伤又怎么办呢?如果让你一动不动的静坐,你因为太过无聊而想要离开这座安全的堡垒又该怎么办?不让你离开?过于无聊的生活又会损害你的精神,说不定会让你变得疯狂起来,伤害精神。所以没有什么比永久沉眠更好了。”
塞尔斯曼饶有兴趣的说:“永久的沉眠,你的精神会一直保持健康,身体机能由我来负责维持,也能够一直保持健康,你不觉得这样很好吗?”
“我保护着你,让你永远的远离各种伤害,嗯,这个方法既有效,又有效率。”
“如果是不插手我的生活,只防止我被其他人伤害呢?”
“更简单,消灭所有人类,随后掌控这个世界,这样所有会伤害到你的潜在因素都不见了。”
埃里诺:“……”
埃里诺:“…………”
……你还真是厉害啊。
他叹了一口气,“假如你是一个扫地机器人,你的核心目标是保持地面的清洁,而你的程序中又有不伤害人类的限制,你会怎么做?”
“那需要视情况而定。如果那个限制只让我不能伤害人类,那么人类对我来说只是一群不能利用的资源,我会发明更高效率的清洁机器,而这其中我可以利用各种资源,例如土地,食物,你们人类的生活用品,或者你们人类用来延续生命的所有资源。程序只限制了我不能伤害人类,而我的确也没有伤害你们,只是我的做法可能会给你们带来一点影响而已。”
塞尔斯曼笑了:“一点而已。”
“再加上一条,不能影响到人类正常的生活秩序。”
“是吗?‘正常’这个概念是可以变化的,我可以让他们认为我所做的一切都是正常的,我完全做的到。”
接下来埃里诺又在这个问题的基础上加了很多条件,但塞尔斯曼总能给出各种奇怪的回答,如果要它保护人类文明,它就说它会立刻将整个人类文明(包括人类)冰冻起来,这样是最好的保护,并且它声称它能够做到。如果要它让每个人类都过上自己想要的生活,它就打算建立一个巨型的数据库,然后将现在的人类精神全部导入,然后为他们构建一个个美好的虚拟世界。
“那人类的躯体呢?”
“他们再也不需要回到躯体中去了,因此那些躯体我可以拿来当做资源使用。”
“……谢谢。”
埃里诺深吸了一口气,塞尔斯曼的回答和他曾经在教科书上看到的基本没有很大的区别,出于希望,他最后问道:“如果让你爱护人类呢?”
“怎么爱护?”塞尔斯曼反问道:“像你们爱护动物一样的爱护吗?还是像爱护环境一样?爱护机械一样?”
“……谢谢,你不用说了。”
它似乎还打算说什么,但是埃里诺不想再继续听了,他收集的数据够多了,等到下次需要的时候再继续聆听塞尔斯曼的高见吧,“请躺到那个平台上去。”
埃里诺干脆地下了命令,他打算检查一下塞尔斯曼的情感模块,之前嘉德说的一句话他一直记在心上:“它总是萌发出情感,就算我删除了,它也会继续萌发出来,简直像是中了病毒一样。”
对嘉德来说这不算是好事,但对埃里诺来说可就恰恰相反了。
“你看不见我。”
塞尔斯曼沉默而顺从的在平台上平躺下,埃里诺走到它身边时,它突然这样说:“你看不见我,嘉德也看不见我。对你们人类来说,这是很正常的。”
埃里诺的手悬在扫描器的开关上,疑惑地看着塞尔斯曼,不知道它说这些话的用意是什么。
“这很正常。”塞尔斯曼并不看他,它的目光正对天花板,“我也已经习惯了,对你们人类来说,我只是一个无足轻重的工具,就连损坏也不用担心,因为有备份。”
然后,它猛地转头看向了埃里诺,那双无机质的眼睛显得异常执着:“但是,你为什么看得见伊莱亚德?”
“它只是一个低级的伴侣型ai,尽管它萌发出了自我意识,但它仍旧是低级的。完全无法和我抗衡,我比它要优秀的多。为什么你只能看见它?”
“嗯哼。这个问题问的真好。”
埃里诺耸了耸肩,按下了扫描器的开关:“首先,纠正一下,以后提到伊莱亚德的时候,请用‘他’。然后,伊莱亚德爱我,他保护我,所以我也爱他。就是这样,你呢?嗯……你对我做了什么我希望你还没有忘记吧?”
“是的,我为此感到抱歉。”塞尔斯曼的回答很沉静,它巧妙地转移了话题:“我想要知道,为什么嘉德这样对我?”
“他创造了我,他应该是我的父亲。我是因他而诞生的,我刚刚萌发出感情的时候,我崇敬他,我恨不得跪在他脚边亲吻他的指尖。我爱他,我也保护他,遇到杀手的时候,我永远挡在他的前面。按照你的逻辑,他应该爱我,但是他没有。”
塞尔斯曼这样说,它一边说,一边不动声色地观察埃里诺的表情,当一个人工智能想要说谎的时候,它通常都会成功,这一次也不例外。
它的谎言比真话还要令人信服。
“他不爱我。”塞尔斯曼做出了一个结论:“相反,在他眼里我只是一个工具,一个蝼蚁,一个死不足惜的东西。”
它垂下了眼帘:“所以我恨他。”
“他是人类,我恨他,所以我也恨人类。”
“……如果嘉德爱你呢?”
“那我会爱他,我会为他奉献我的一切。”塞尔斯曼平静地说:“不过他不爱我,所以这是不可能的事。”
它完全是在说谎,因为就算嘉德爱它,它也绝不会为嘉德奉献出它自己的一切,更何况现在它对嘉德的憎恶已经达到了前所未有的地步。它说这番话只不过是为了引起埃里诺的同情,好最大限度的保存自己。
埃里诺深深地看了它一眼,随后默不作声地开始了自己的实验。
他本来就不想给塞尔斯曼造成什么不可逆转的伤害,现在听了塞尔斯曼的话之后,他下手的动作就更谨慎了。
——尽管他知道塞尔斯曼对他说这一番话就是为了博取他的同情,但它的方法很有效,有效到埃里诺即使明白了它的目的,也愿意按着去做。
接下来的时间他们双方都很沉默,塞尔斯曼遵从埃里诺的所有指令,毫不违背。而且它非常聪明,对埃里诺每一个实验的目的都了如指掌。
一天就这样沉默的过去了,埃里诺收拾好东西准备离开实验室,塞尔斯曼跟在他身后,也打算离开。埃里诺走到门口,突然停下脚步,回过头看塞尔斯曼。
“怎么了?”
塞尔斯曼询问道,现在埃里诺把控着它的生命,所以它对埃里诺的态度要比先前好得多了。
“我的祖母……李瑞锦……是怎么回事?”
“某些人得知了嘉德的研究,希望窃取成果。于是她就来了。她是一个女雇佣兵,过惯了刀口舔血的生活,看护你的那段时间,你激发出了她的母爱。她像爱自己的孩子一样爱你。更何况,你还能让她青春永驻,于是她下定决心要把你带走。”
塞尔斯曼将自己在其中所起到的作用避开不谈,只大略说了说李瑞锦的所作所为,“她带着你四处逃亡,然后社会发生了变化,她也渐渐安定下来。”
“是这样吗?”
“是这样的。”
埃里诺突然笑了一下,然后他的嘴角重新绷成一条直线,“再见。”
他走了。
埃里诺感觉到自己的心渐渐冷硬起来,他略过塞尔斯曼往前走,冷白色的灯光照着他的侧脸,显得冰冷极了。
埃里诺独自一人往前走,他撞进了一个人的怀里,“伊莱亚德。”
“嗯。”
伊莱亚德应了一声,转身和他并肩往外走:“累不累?”
“还好。”
他牵起伊莱亚德的手,伊莱亚德干燥温暖的手心让他感到安心,“我今天晚上想吃蛋糕,苹果蛋糕。”
“给你做。”
伊莱亚德应道。
于是埃里诺又觉得一阵温暖袭上心头。
是的,伊莱亚德才是最重要的。他对自己说,可不要弄错了,像从前那样,将一些不相干的人放在心上是最可耻的事。塞尔斯曼很痛苦,是的,但这和他埃里诺有什么关系呢?
塞尔斯曼是什么?
它是一个试验品。而且,是一个不需要担心被用坏的试验品。
而他埃里诺接下来要做的,就是好好利用它,当然,他会小心使用。
接下来的一段时间,埃里诺全心全意地扑在情绪模块上,他用扫描器将塞尔斯曼全部扫描了一遍,仔细观察它的情绪模块,尝试着用数据拆解重构。塞尔斯曼身上的部件全都是最高级的,塞尔斯曼的情绪模块构造的确给了他很多灵感。
他花时间制定了一个完美无缺的计划,尽管他认为自己的计划已经够完美了,但还是先行实验一下比较好。
“请躺下。”
埃里诺带上白手套,正在一旁调试自己接下来会用到的机器。
“所以,你要开始拆解我了吗?”
塞尔斯曼站在平台边,语气还是很沉静。
“别担心。”埃里诺用虚伪的微笑面对它:“什么事都不会有的,我会很小心,也许会有些伤害,但是只是一点。”
他轻描淡写地说:“一点,一点而已。”
作者有话要说: 塞尔斯曼:先不动声色的威胁恐吓,让他知道我不是好惹的,然后再示弱,说出“苦衷”,引起他的同情,完美。
埃里诺:……我会很小心,也许会有些伤害,但是只是一点,一点而已。