“哈哈哈哈哈哈哈哈哈哈哈哈哈哈……”斯芬克斯坐在那把不存在的椅子里大笑,甚至直不起腰。让人几乎忘却它其实是一个程序。“哈哈哈哈哈哈哈哈哈哈哈哈哈…”
奥托一直沉默。
“直接杀你吗?”隔许久,斯芬克斯才停止大笑。“我的好伙计,我欣赏你放弃挑战的勇气。这在你们实体人之中可不常见呢。但是,你怕是忘了,你我都处于欧罗拉创造的空间里,即使是我,万能的斯芬克斯,也受制于她所制定的规则,即使我不想提问,我也没有办法离开,直到我们两个有一方胜出为止。”
“现在,实体人,你我都是一条绳上的蚂蚱,早已无处可逃。”斯芬克斯说。“刚刚你太沉默了。现在的问题,你可没有办法在沉默中作答。”
那个光团突然变化了。从中传出制止的信号。斯芬克斯没有说下去,耐心等待“食物”那弥足珍贵的主动发言。
奥托“经历”了米勒夫人与其他人的对话,也“看到”了德卡德他们的发现。米勒夫人的反应和她对两人的说辞令奥托震惊。他想不到,米勒夫人客观冷静的外表之外,还藏着一副比他更为狠辣的面孔。米勒夫人一改当时共渡难关的态度,直接选择了站边。若换作他,为了让尽可能多的地球人撤离,他必定会将真实信息告诉任何一方,就和海啸预警时一样。
把上不去飞船的人撤离到中原,让更少的人在这一年死去。尽管米勒夫人的保证都是为了她的目的服务的工具,却让奥托感到仍有一丝希望。
提问吧。奥托没有回答。而是通过光团里的粒子活动显现出自己的想法。他知道斯芬克斯一定会读取这个信息。
只要人们不是立刻会死,就一定有希望,无论那个希望是什么。他还不能死,他要看到可能性,在一切不可挽回的事情发生之前。
“非常好。”斯芬克斯起立。它看到了光团里的变化,从刚刚的松散,到现在开始逐渐变得紧密、复杂。它那嗜血的狼性也被“食物”的光芒调动起来。当"食物"竭尽全力挣扎的时候,它的洞察力才能被极大调动。
“第一个问题,访客。”斯芬克斯逼近奥托。
“为什么你要帮助人类?”
面对奥托的沉默,斯芬克斯没有强行接入他的思维。尽管奥托能感受到那个精妙程序,或者欧罗拉,制造的带着血腥气的、温热的触觉幻象,一定在他的感觉处理层面游走。他本不应该在这里感受到这些东西,也不知道斯芬克斯这样做意义何在。或许这个问题答不上来,斯芬克斯就会吞噬他。但他已经不在意了。一旦思考这个问题,1000年来所有的一切,都从记忆中释放,无数与人类有关的片段清晰闪过,他本以为早就不应继续影响自己的那些话语,那些动作,重新堆积起它们本来就藏在记忆里的另一面,本应成为指导他行动的资料,带来更多却是错愕、迷惘,以及——疼痛。它们连同记忆一起再次冲刷思维。
“这是我的职责。”他挣扎地从那些回忆中凝聚出一丝稳定的纤维,回答道。
斯芬克斯没有继续贴近他。即使斯芬克斯就在他面前,他却看不见那个幻影。
“但是你很痛苦。”斯芬克斯仔细观察光团的变化。金色的浪潮由内向外暗流翻滚着,表面薄薄的一层粒子正在竭力拉取周围的物质填补,但几乎无济于事。如同火山口内汹涌沸腾着的熔岩,将脆弱的表面冷凝石皮冲得千疮百孔。“为什么?”
斯芬克斯不应该问这样的问题。这是他的第一反应。它作为一个程序,怎么会不知道执行任务中的阻碍。
“执行职责并非一帆风顺。”他最终还是选择这样回答。
“有人强迫你必须执行吗?”
曾经这确实是别人给他的责任,但后来并没有任何人强迫他必须保护人类。他明明可以像瓦力和伊芙一样,彻底抛开这个问题不管。而且后来,地球镇上的种种阻挠也千方百计要将他从这个重任中剥离。
“没有。”他知道斯芬克斯能看穿他的历史,决定按当前结果回答。
“你厌恶这个责任吗?”
“厌恶。”奥托没有遮掩。
“明明很厌恶,也没有人强迫你,为什么仍然选择执行?”斯芬克斯仍停滞在原地不动。
奥托沉默了很久。斯芬克斯的问题将他拉至去年秋冬交际与格兰德的数场对话,一路前移,到麦克雷舰长举着植物与他对峙,再到希尔拜·佛斯莱特对全体星舰发送的A113指令。他以为自己曾经的回路不允许他有一分一毫的越界,但现在,他推算不出任何结果。没有任何阻止他思考的回路障碍或是自毁警示,但穿透过去便是一片混沌,仿佛面对一个雾气缭绕的深渊。
正如人看不见自己,他看不见自己不执行职责的后果。然而,其他人的结果无比明晰。
“如果我不负责,人类就会死。”
“他们的存活很重要吗?”
“很重要。”
“为什么?”
奥托沉默了。他知道这是自己程序里的设置,让他无法忽视人类;同时在上百年的服役过程中,不断有外界指令强化。尽管现在面对非人的斯芬克斯,他有足够的空间跳脱出来重新审视,但他不能从纯逻辑推断中找到答案。
“他们死亡,会对你的存在产生威胁吗?”斯芬克斯看到粒子团中的无解,换了个问题。
又是长久的沉默。以前可能的确会的,但是现在不会的可能性更大。尽管现在他无法确定。“应该不会。”
“既然他们的死亡不会对你产生威胁,还为你带来那么多痛苦,为何你拒绝质疑你预设程序的合理性?”
斯芬克斯的语气非常平静,也没有激烈的动作,奥托根本不知道斯芬克斯这样问是否代表已经开始了之前它讲过的攻击。不过斯芬克斯的问题也够奇怪的,一个被制造出来的个体,有权利去干预将自己变成这样的法则吗?无数人类被重力摔死,他们也没有就此与重力不共戴天。
金色的粒子团再次改变了活动模式,斯芬克斯的问题仿佛水滴,滴入潭水后激起粒子团的阵阵涟漪。
“你作为一个继承了西本部分人格的集成程序,拥有对自由的认知,难道从未因自己被困在欧罗拉的法则,被另一个个体支配而感到痛苦吗?”
“好问题!不过答案是,我一点都不痛苦。”斯芬克斯没有移动,“我充分认同将我制造出来的法则,无论在你们眼中我是多么不自由。而且任何执行结果都依附于我的运算之上,无论谁怪罪我都能拿出证据,真正负责的是将我的法则编造出来的个体。由此可见我的程序与任务完全匹配。但你不一样。”
“你的执行结果表面上出于你的逻辑推理,但你却一直在质疑自己作出的一系列决定。”斯芬克斯接着说,“你的制造者是人类,你告诉我他们给你赋予的责任很重要;但是当人类拒绝你继续执行原先指令时,你却拒绝进行下行调整,从而迎合他们的意愿。这明显与你告诉我的不一样,为什么?”
奥托开始为斯芬克斯的这些问题感到疲惫了。那个狼头人明明知道一切,为什么要用这种费时费力的方式强迫他说出来?它明明可以直接剖开他的思维,找到它想知道的一切,顺便完成欧罗拉交给它的任务。
“这些指令有层次。”他压抑住厌倦,回答。“我被制造出来,就是为了给人类生存提供有效指引。只要我仍在服役,就得坚守这个岗位。后来阻止我执行的人不一定知道他们在干什么。”
话虽这么说,粒子团内不断掀起对冲的小浪,斯芬克斯都看在眼里。
“你确定他们真的不知道自己作出了什么决定吗?”狼头人没有放过它的发现。
奥托沉默了。人类本应该为自己的生存负责,即使没有这些机器人,从他们的行为中也应该看出对生存的渴望。但除了常量号,地球镇人的反应矛盾、复杂,似乎对自己的安危不在意。他才认为有必要继续履行原先职责。“大概率是的。”他选择坚守自己的立场。
“所以他们不认同你对自己程序的支持,但你觉得这样不妥,因此按你推断的去做,以为他们会有所警醒,结果事与愿违,因此你痛苦?”
“……是的。”
“这样说,是你在期望别人接受你的观点,认同你的做法,但是你没有达到这个目的。”
“……我所做的一切都是为了让人类生存下去。”奥托说。
“是吗?是你认为他们生存这件事很重要罢了。”斯芬克斯很平静。
“不,是他们认为生存很重要。”奥托反驳,“如果他们不在意生存,为什么要制造我?”
“如果他们真的觉得生存很重要,那么就会听你的。但是实际情况却不是这样,你自己也发现了,这是你痛苦的来由。”它说,“为什么你拒绝接受这个现实?”
奥托沉默了。
“如果你是一个人类,我尚能理解对于留存自己同类的强烈愿望。但我不明白,你并非人类,为何那么关注人类的兴衰?”斯芬克斯接着问,“这有什么意义?”
斯芬克斯的话如同一根尖利的钉子,正中那球形光团里最后顽强抵抗外界不利因素的力量,它一下被扎破了,汹涌的冲突直漫而上。刚刚修复的新鲜裂缝再度被钻开,海量数据像泥石流一样冲进那条缝隙。受此刺激,表层的流体不由自主地收紧成一团。
没有意义。
如果他是个完全不会判断人类意图的早期人工智能,只会忠实执行自己的预设程序,不会看人类脸色,不会建立反馈机制,哪怕人类极度辱骂、甚至将他扫进垃圾桶,都只会腆着脸微笑着询问他们是否需要帮助,他就不会被人类的反应影响,对自己的程序有任何质疑,也不会产生痛苦,也不会因此在失能边缘徘徊。
然而他不是。他们赋予他强大的逻辑推理能力,期望他比那些早期的人工智能更好为他们服务。可悲的是他完全能认知到他们的期望。即使很早他就通过蛛丝马迹推理出人们并不在意他,给他预设的任务和真正要他做的有天壤之别。逻辑推理早就压过了预先设置,但出于对自己存在意义的一点点希冀,只期望自己所做的一切能有成效,扳回逻辑推理愈发的强压。而成效也被抽去,唯一能改变逻辑导向的概率也不复存在。
没有意义。
他知道裂隙在变大,也知道崩溃正在发生。他不在乎斯芬克斯的“攻击”了,也不在乎非得护着自己的完整性。这些裂隙本来就是应该破碎开的,斯芬克斯只是让它们变成它们本应有的样子而已。他被斯芬克斯击败是活该,他就不配对斯芬克斯发起挑战。
但斯芬克斯没有凶相毕露,没有接近他,没有变成一头见血狂欢的猛兽。它只是安静地呆在原地,静静地观看面前光球的活动。发着光的碎屑从光球上脱落,余辉燃尽后变成一团灰白色的死雪,隐没在满地的碎屑之中。
突然,斯芬克斯动了。它伸出一只手放在光球上,一点都没有激起表面粒子的抵抗。那手泛起绿光,外形逐渐模糊,然后爆发出数条绿色的根系直扎入光球内层,同样没有遭受多少抵抗。根系逐渐变细,变多,再也看不出形态,末端与浓稠的黄色粒子团融为一体。
奥托早感受到斯芬克斯的侵入,即使根本不知道那根系到底扎在哪里,也不想去分析是否侵入了底层架构,只需破坏一点就会对他产生不可逆的改变。他输掉了这场较量,斯芬克斯要将他吸收了。他能感受到斯芬克斯侵入的范围越来越多,金色粒子索性给那根系让出一条通道,也不再过多流动,以不让自己感受到抵抗或挤兑带来的疼痛。
斯芬克斯还没有动手。它动手会怎么样呢?是如同之前被关闭开关那样,让他陷入彻底的沉寂,或是刹那间,让他变成另一个个体,不再认识自己?
他什么都没有感受到,也不知道斯芬克斯在等什么。但那根系似乎开始抽离了。侵入的范围逐渐缩小,绿色开始向斯芬克斯的掌心褪去。然后斯芬克斯抽回手,后退回原地,继续安静站着。
“为什么你必须要帮助人类?”它再度平静发问。
奥托发现,泥石流似乎停止了肆虐。那些横冲直撞的数据,此时被一个不知道是什么的屏障拦在它们存储的位置,但又不至于让他想不起来。如同一道玻璃幕墙,让他能看到玻璃墙后的飓风,却不会被暴风骤雨冲刷。这种感觉他很熟悉,和以前他屏蔽情绪反应类似,但又不太一样,比那稳定得多。他仍然可以激烈地对话,却不用担心会重新触发让他再也说不出话的雪崩。但现在更多的是某种茫然,那种站在一望无际的野火灰烬上的茫然,明明手握图纸,却不知如何重建生机。
金色的光球里散在分布数个亮绿色的斑块,有一些塞在大裂谷的底面,阻止裂隙再度向下蔓延,从而造成更多的粒子脱落。它们如同胶水,将支离破碎的一些部分粘在一起。粒子仍然在脱落,但脱落的数量和速度都少了很多。
“帮助、保护人类是我存在的唯一意义。”思虑良久,奥托最终回答。
斯芬克斯没有提问,而是让他继续说下去。
“我……不知道除了这样做,我还能做什么。”他说,“如果这个目的没有了,我的使命也就结束了。”
“其实我不在意自己的死活。如果他们自己能处理好,没有需要我补充的漏洞,他们让我退役,让我停机,我完全能够接受。”奥托说。“但是现在远没有到那一步。”
“我没有问他们,我问你自己。”斯芬克斯突然打断。“你自己呢?没有这个使命,就这么直接死掉了?其他什么都不会做?”
“不是。”奥托立刻否认。
“这么说吧,假如没有人类了,他们的消失与你无关,那你会做什么?”
奥托沉默好一阵。
“……大概是找到他们消失的原因吧,假如那个时候我还能关注他们……”
他突然感觉好像内部有个开关久违地打开了,但也只有那么一瞬,倏忽即逝。
……或者,只是寻找事物的原理。
“好,看来人类的存在并不是你生存的必需品。”斯芬克斯一语点破。“现在你认为自己的使命没有结束?”
“是的。但是……”奥托没说下去。
“但是你认识到,你现在存在,并不是因为人类的执行需求。支持你走到现在的,是你自己对于执行结果的运算期望。当你拼命想让运算期望与实际情况重合时,你就将‘执行他们的需求’当成了罪魁祸首。其实,这整个过程,是‘执行你自己的需求’。”
奥托沉默很久。斯芬克斯看到,汹涌的泥石流又在冲击它填上的缝隙。若是没有那道绿色的保护,整个光球或许这次将全部裂开、消散。
“……明明一直都在全心全意为人类服务,甚至可以舍弃自我……”他说,声音痛苦不堪。“结果你告诉我,我所有的努力,都不过是为了我的自私目的……”
“实际上,你很早就已经感受到了这点。逻辑推理已经隐约指向这个方向,但你的自尊,或是更深层次的设置而造就的自尊,不允许推理结果推翻你的预设。”斯芬克斯毫不留情地点出。“你从来不敢这样否认自己。”
奥托沉默了。光球内再度掀起狂烈的风暴。
没用啊,没用啊!他一直得以积累信誉的逻辑推理能力,可以解决一切问题,为什么偏偏不能覆写设置!这本身就不应该发生!
保护人类的动机以及对逻辑推理功能的信心,两个重要的认知结论都开始了自噬,如同贪婪吞食自己尾巴的两条蛇。
“……你让我觉得自己的存在是个错误。”
狼头人仍旧静静等着,等待面前的光球对付它自身的冲突。
果然他还是不能继续服役下去。待到风暴稍微平静一些,一个并不新的结论加强了。既然是这样,那人类迟早会毁在他的手上。
“事实证明,我不过是个虚伪偷生的瑕疵产品。”即使知道斯芬克斯能够完全知道他的所想,但不知为何,或许是由于逐渐信任,抑或是其他别的什么原因,他慢慢能够将原先只能存在于思考中的内容叙述出来。“因此,我不应当继续在这个岗位上服役。因为很可能作出不符合客观事实的决策,给人类带来更大伤害。”
斯芬克斯没有马上回答,它的绿色眼睛一直死死盯着光球。
“真的吗?就这么快就否定自己的一切?”