第29章 可避免的冲突(3)

作者:艾萨克·阿西莫夫

|

类型:都市·校园

|

更新时间:2019-10-06 16:30

|

本章字节:11922字

它可约略分成两大地区。地图左方是格兰河以北的整个北美洲,右方则包括当年苏联的全部疆域。这两个地区加在一起,代表了原子时代初期地球上的核心势力。位于两者之间的是大不列颠,它像是该界域舔向欧罗巴的舌头。而在地图的顶端,扭曲放大成怪模怪样的,则是澳大利亚与纽西兰,两者同样是这个界域的成员。


过去数十年的一切变化,皆未能改变“北方”是全球经济主宰这项事实。


因此,在拜尔莱所见过的官方界域地图中,唯有麦肯日的版本画出了整个地球,仿佛表示“北方”无惧于竞争,无需特别强调自己的显着地位。这个事实,几乎便是一个夸耀的象征。


“不可能。”麦肯日一面喝着威士忌,一面以倔强的口吻说,“拜尔莱先生,我相信,你没有受过机器人技师的训练。”


“没错,我没有。”


“嗯。这个嘛,秦修林、勾马和齐葛思苏斯卡也都没有,在我看来这实在是大不幸。地球居民有个太普遍的看法,认为总协只需要具有组织的长才、兼容并蓄的胸怀,以及和蔼可亲就行了。但如今这个年头,他也应该了解机器人学——请别介意我这样说。”


“我不介意,我同意你的说法。”


“比方说,根据你刚刚讲的那些话,我猜你是在忧心最近世界经济的小小脱序。我不知道你怀疑些什么,但过去曾有人想到——他们应该知道得比你多——万一有错误资料输入机体会怎么样。”


“会怎么样,麦肯日先生?”


“这个嘛,”这位苏格兰人挪了挪屁股,叹了一口气,“搜集来的所有资料,都会通过一个复杂的筛选系统,由人工和机器做双重检查,所以这种问题不太可能发生。但我们暂且忘掉这点——人容易犯错,也容易堕落,普通的机械装置则容易出现机械故障。


“问题真正的重点,在于我们所谓的‘错误资料’,是指和所有已知资料不一致的那些。这是我们判断正误的唯一依据,对机体而言也是一样。比方说,假如你命令它,根据七月平均气温为57华氏度的资料,指导爱荷华州的农业活动,它是不会接受的,它不会给出任何答案。并非由于它对那个特殊气温有任何成见,或不可能得出一个答案;而是因为,根据历年来输给它的所有资料,它知道七月平均气温为57度的机会趋近于零。因此,它拒绝接受这个资料。


“唯一能将‘错误资料’强行输入机体的办法,是把它藏在一组自圆其说的完整资料里面,其中的资料一律含有巧妙的错误——不是微妙到机体侦检不出来,就是在机体的经验范围之外。可是前者超出人类的能力,后者也几乎如此,而且随着机体的经验一秒秒增加,后者的机会也就越来越小。”


史蒂芬·拜尔莱将两根指头放到鼻梁上。“这么说,机体不可能被人动手脚——那么,你又如何解释最近这些错误?”


“亲爱的拜尔莱,我看得出来,你直觉地犯了那个最大的错误——以为机体无所不知、无所不晓。让我对你举个亲身经历的例子:在棉纺业这一行,负责采购棉花的人员个个经验丰富。他们检验棉花的手续,是从许多捆里面随便挑一捆,再从那捆中抽出一簇。然后,他们用眼睛观察那簇棉花,用手抚摸它,用舌头舔它,还把它梳得起毛,说不定这时还会倾听那阵噼啪声。经由这些手续,他们便能决定这捆棉花的等级——总共有十来种等级。而交易的价格,以及棉絮的混合比例,都是根据他们的检验结果而定。好,目前为止,机体还不能取代这些采购员。”


“为什么?相关资料当然不会太复杂吧?”


“或许不会,但你指的是什么资料?没有任何织品化学家知道,当那些采购员抚摸一簇棉花时,他究竟在检验些什么。想必是纤维的平均长度、它们的质感、光滑的程度和特质、缠在一起的方式等等。总共好几十个项目,他们凭借多年的经验,下意识地一一衡量。但这些检验的定量特性却都是未知数;甚至某些检验的本质或许也是未知数,因此我们没有东西可以输入机体。而那些采购员也无法解释他们自己的判断,他们只能说:‘这个嘛,看看它,你看不出来它是某某等级吗?’”


“我懂了。”


“像这样的例子无穷无尽。毕竟机体只是工具,它替人类分担一些计算和诠释的重担,以加速人类进步的步伐。人脑的工作仍旧保持不变——发现需要分析的新资料,发明有待测试的新概念。可惜‘人本协会’不会了解这一点。”


“他们反对机体?”


“假使他们生活在古代,他们还会反对数学、反对文字。这些保守分子声称机体夺走了人类的灵魂。我注意到在我们的社会中,能干的人仍是珍贵资源;我们仍然需要那些拥有足够智慧的人,想出和提出一些适当的问题。说不定,我们若能找到足够的这种人,总协,你忧心的那些脱序现象就不会发生了。”


地球(包括无人居住的南极大陆)


面积:54,000,000平方英里(陆地面积)


人口:3,300,000,000


首都:纽约


石英板后面的炉火孱弱无力,已不情不愿地燃烧到尽头。


总协一脸忧郁的表情,他的心境恰如逐渐熄灭的火焰。


“他们都尽量将事态淡化。”他以低沉的声音说,“不难想象他们都在嘲笑我吧?可是——文生·西佛说机体不可能出毛病,而我必须相信他。希兰姆·麦肯日说它们不会接受错误资料,我也必须相信他。但机体不知怎地出了问题,我同样必须相信这个事实。所以,仅仅剩下最后一个可能。”


他瞟了苏珊·凯文一眼,后者闭着眼睛,乍看似乎睡着了。


“那是什么?”她却立即作出回应。


“啊,机体的确接受了正确的资料,也的确送出了正确的答案,但答案随即被弃置一旁。机体没办法强迫人类服从它的指令。”


“在我看来,齐葛思苏斯卡夫人做了这种暗示,她泛指的是北界人。”


“是的。”


“违背机体又能达到什么目的呢?我们来考虑一下动机。”


“我看动机很明显,你也应该有同感。那等于是故意摇晃这条船。当机体统治世界时,地球上不可能有严重的冲突。反之冲突倘若存在,某些人便能为了自身利益而攫取更多的权力,全然无视人类整体所受到的伤害。如果能摧毁大众对机体的信心,令它们遭到废弃,那么丛林法则将再度出现。而四个界域,个个脱不了有此打算的嫌疑。


“东方界域境内拥有全世界一半的人口,热带界域则有超过一半的地球资源。两者都可能觉得自己自然是全球的主宰,而且两者都有一段受北方欺侮的历史,想要作非理性的报复乃是人之常情。另一方面,欧罗巴拥有唯我独尊的传承,它一度真正统治了地球,而权力是最令人难忘的一样东西。


“然而,换个角度来看,这却是难以置信。东方和热带目前都在自己境内大肆发展,两者皆以不可思议的速度蹿升,它们不可能有余力进行军事冒险。而欧罗巴能拥抱的只是梦想,它的军事实力等于零。”


“所以,史蒂芬,”苏珊说,“你只剩北方了。”


“是的,”拜尔莱中气十足地说,“没错。北方是如今最强盛的界域,若将其成员的历史包括在内,这个局面已经持续近一世纪。可是现在,相较之下它正在走下坡。热带界域可能即将攻占文明最前线,那会是法老时代之后的首例,有些北界人害怕这个事实。


“你也知道,‘人本协会’主要是一个北界组织,他们不讳言不想要机体——苏珊,他们人数很少,却都是有权有势之辈。这个组织的成员包括:不愿成为他们口中‘机体工友’的工厂厂长、工业界和农业界领袖,此外还有野心分子,以及觉得自己足以决定什么对自己最好、不愿听从机体的那些人。


“总而言之,那些人只要一起拒绝接受机体的决定,便能在短时间内把世界搞得天翻地覆——该协会的成员就是他们那些人。


“苏珊,一切都吻合了。世界钢铁公司有五名董事是它的成员,而该公司正面临生产过剩的问题。在阿马丹开采水银的统一辰砂公司,是一个属于北界的企业。我们仍在调查它的名册,但至少有一位负责人是会员。独力延迟墨西哥运河达两个月的法兰西斯哥·威拉法兰卡,我们已经知道他是会员——而拉玛·巫拉萨耶拿也是,发现这点时我毫不惊讶。”


苏珊心平气和地说:“这些人,我应该指出,表现得都很差……”


“但自然如此,”拜尔莱插嘴道,“不听从机体的分析,就是不遵循一条最佳化的路径,得到的自然是较差的结果,那是他们付出的代价。他们现在日子难过,但在终将来临的混乱中……”


“你究竟打算做什么,史蒂芬?”


“显然不能浪费任何时间。我要把‘人本协会’列为非法组织,将一个个会员从重要岗位上换下来。从今以后,所有行政和技术人员的职位,申请者必须具结一份非该会员的誓词,否则绝不录用。这将代表放弃某些基本人权,但我确信世界议会……”


“行不通的!”


“什么!为何行不通?”


“我来作个预测。你若尝试任何这样的举动,将会发现寸步难行——你将发现这个命令不可能贯彻,你将发现相关措施通通都会陷入困境。”


拜尔莱吃了一惊。“你为什么这样说?我满心希望你会赞成这件事。”


“只要你的行动建立在错误前提上,我就绝不会赞成。你承认机体不可能出错,不可能接受错误资料。但你认为‘人本协会’可以违背机体,现在我要对你说明,那也是不可能的事。”


“这点,我完全看不出来。”


“那就听好。任何主管的任何行动,倘若并非切实遵循机体的指示,那个行动就会成为下批资料的一部分。因此,机体会知道那个主管有些不服从的倾向。它能将这个倾向融入那些资料——甚至作定量分析,也就是说,判断出不服从的确实程度和方向。它的下一组答案,便会刚好有足够的偏颇,让那位主管在故意违背后,会自动将那组答案修正到最佳化的方向。机体一清二楚,史蒂芬!”


“你不可能确定这一切,你只是在猜测。”


“这是根据我和机器人相处一生的经验所作的猜测。你最好信赖这样的猜测,史蒂芬。”


“但若是这样,那还剩下什么呢?机体本身是正确的,它们根据的前提是正确的,这些我们已经同意。现在你又说,没有人能违背它们的意思。那究竟是哪里有问题?”


“你自己已经回答了。根、本、没、有、问、题!稍微想想那些机体,史蒂芬。它们是机器人,它们服从第一法则。可是机体并非为任何一个人工作,而是为全体人类服务,所以第一法则变成:‘机体不得伤害人类整体,或因不作为而使人类受到伤害。’”


“好啦,那么,史蒂芬,什么会伤害人类整体呢?经济脱序最有可能,不论它的导因为何。你不同意吗?”


“我同意。”


“未来最有可能导致经济脱序的又是什么?回答这个问题,史蒂芬。”


“我会说,”拜尔莱不情愿地答道,“是机体被作废。”


“我也会这么说,而机体也会这么说。因此之故,为了我们,它们的首要考量是保全自己。所以,它们悄悄处理了威胁它们的最后一项因素。其实并不是‘人本协会’摇晃这条船,试图令机体遭到毁灭,你一直把这一幕看反了。我们应该说,是机体摇晃这条船——摇得非常非常轻——刚好能把攀附在边缘的少数人摇掉,因为机体认为他们的行动会危害到人类整体。


“所以巫拉萨耶拿失去了他的工厂,在他无法为害的地方找到另一份工作——他没有受到严重伤害,没有失去谋生能力,因为机体对人类所造成的伤害必须尽可能轻微,而且必须是在拯救更多人的前提下。统一辰砂公司在阿马丹失去了控制权;威拉法兰卡不再是一项重要计划的总工程师;而世界钢铁公司的那些董事,则正在失去钢铁业的支配权——或说即将如此。”


“但你不算真正看透这一切,”拜尔莱激动地坚持道,“我们怎能冒险假设你是对的?”


“你必须这样做。你还记得当你对机体提出这个问题后,它自己的回答是什么吗?它说:‘这件事不可解释。’机体并未说根本没有解释,或说它能断定没有解释,它只是不容许出现任何解释。换句话说,假使公布这个解释,就会对人类造成伤害,所以我们只能猜测——一直猜下去。”


“假设你是对的,苏珊,但那个解释怎能对我们造成伤害呢?”


“啊,史蒂芬,假如我是对的,那就代表机体为我们筹划未来的方式,并非只是针对我们直接的问题提出直接的答案,而是对世界整体的局势、对人类整体的心理提出一般性答案。知道这点可能会令我们难过,可能会伤害我们的自尊。而机体不能——绝对不能让我们难过。


“史蒂芬,我们又怎么知道人类终极的幸福会伴随着什么?机体掌握着无限多的因素,我们却无从掌握!让我举个不算不熟悉的例子:整个的科技文明所带来的不幸和悲惨,说不定还超过它所送走的。一个拥有较少文化、较少人口的农业或牧业文明,说不定反而会更好。若是这样,机体就必须朝那个方向前进,而且最好别让我们知道,因为根据我们无知的偏见,我们只晓得自己习惯的才是好的——我们会坚决反对改变。也说不定,一个完全都会化的社会,或者一个完全阶级化的社会,或者一个完全无政府的社会,才是真正的答案。我们不知道;只有机体知道,而它们正带着我们走向那里。”


“但你是在对我说,苏珊,‘人本协会’是对的;人类对未来已经失去自己的决定权。”


“其实,人类从来没有任何决定权。人类总是受到自己所不了解的经济和社会力量的摆布,此外反复无常的气候、胜败难料的战争也一直在宰制人类。机体则了解这些因素,不会被任何一项所阻止,因为机体会像对付‘人本协会’那样对付这些因素——它掌握了最强大的武器,那就是对全球经济的绝对控制权。”


“多么可怕!”


“或许是多么美好!想想看,如今,所有的冲突终于能避免了。从今以后,只有机体是不可避免、不可或缺的!”


石英板后面的火焰熄了,只留下一缕轻烟作为它的遗迹。


“故事讲完了。”凯文博士缓缓起身,“我从头到尾看了个仔细。一开始机器人还不会说话,最后他们挺立于人类与毁灭之间。我看不到什么了,我的生命已到尽头。你将会看到下一波的发展。”


此后我再也不曾见到苏珊·凯文。她于上个月逝世,享年八十二岁。