登陆注册
19292000000029

第29章 可避免的冲突(3)

它可约略分成两大地区。地图左方是格兰河以北的整个北美洲,右方则包括当年苏联的全部疆域。这两个地区加在一起,代表了原子时代初期地球上的核心势力。位于两者之间的是大不列颠,它像是该界域舔向欧罗巴的舌头。而在地图的顶端,扭曲放大成怪模怪样的,则是澳大利亚与纽西兰,两者同样是这个界域的成员。

过去数十年的一切变化,皆未能改变“北方”是全球经济主宰这项事实。

因此,在拜尔莱所见过的官方界域地图中,唯有麦肯日的版本画出了整个地球,仿佛表示“北方”无惧于竞争,无需特别强调自己的显着地位。这个事实,几乎便是一个夸耀的象征。

“不可能。”麦肯日一面喝着威士忌,一面以倔强的口吻说,“拜尔莱先生,我相信,你没有受过机器人技师的训练。”

“没错,我没有。”

“嗯。这个嘛,秦修林、勾马和齐葛思苏斯卡也都没有,在我看来这实在是大不幸。地球居民有个太普遍的看法,认为总协只需要具有组织的长才、兼容并蓄的胸怀,以及和蔼可亲就行了。但如今这个年头,他也应该了解机器人学——请别介意我这样说。”

“我不介意,我同意你的说法。”

“比方说,根据你刚刚讲的那些话,我猜你是在忧心最近世界经济的小小脱序。我不知道你怀疑些什么,但过去曾有人想到——他们应该知道得比你多——万一有错误资料输入机体会怎么样。”

“会怎么样,麦肯日先生?”

“这个嘛,”这位苏格兰人挪了挪屁股,叹了一口气,“搜集来的所有资料,都会通过一个复杂的筛选系统,由人工和机器做双重检查,所以这种问题不太可能发生。但我们暂且忘掉这点——人容易犯错,也容易堕落,普通的机械装置则容易出现机械故障。

“问题真正的重点,在于我们所谓的‘错误资料’,是指和所有已知资料不一致的那些。这是我们判断正误的唯一依据,对机体而言也是一样。比方说,假如你命令它,根据七月平均气温为57华氏度的资料,指导爱荷华州的农业活动,它是不会接受的,它不会给出任何答案。并非由于它对那个特殊气温有任何成见,或不可能得出一个答案;而是因为,根据历年来输给它的所有资料,它知道七月平均气温为57度的机会趋近于零。因此,它拒绝接受这个资料。

“唯一能将‘错误资料’强行输入机体的办法,是把它藏在一组自圆其说的完整资料里面,其中的资料一律含有巧妙的错误——不是微妙到机体侦检不出来,就是在机体的经验范围之外。可是前者超出人类的能力,后者也几乎如此,而且随着机体的经验一秒秒增加,后者的机会也就越来越小。”

史蒂芬·拜尔莱将两根指头放到鼻梁上。“这么说,机体不可能被人动手脚——那么,你又如何解释最近这些错误?”

“亲爱的拜尔莱,我看得出来,你直觉地犯了那个最大的错误——以为机体无所不知、无所不晓。让我对你举个亲身经历的例子:在棉纺业这一行,负责采购棉花的人员个个经验丰富。他们检验棉花的手续,是从许多捆里面随便挑一捆,再从那捆中抽出一簇。然后,他们用眼睛观察那簇棉花,用手抚摸它,用舌头舔它,还把它梳得起毛,说不定这时还会倾听那阵噼啪声。经由这些手续,他们便能决定这捆棉花的等级——总共有十来种等级。而交易的价格,以及棉絮的混合比例,都是根据他们的检验结果而定。好,目前为止,机体还不能取代这些采购员。”

“为什么?相关资料当然不会太复杂吧?”

“或许不会,但你指的是什么资料?没有任何织品化学家知道,当那些采购员抚摸一簇棉花时,他究竟在检验些什么。想必是纤维的平均长度、它们的质感、光滑的程度和特质、缠在一起的方式等等。总共好几十个项目,他们凭借多年的经验,下意识地一一衡量。但这些检验的定量特性却都是未知数;甚至某些检验的本质或许也是未知数,因此我们没有东西可以输入机体。而那些采购员也无法解释他们自己的判断,他们只能说:‘这个嘛,看看它,你看不出来它是某某等级吗?’”

“我懂了。”

“像这样的例子无穷无尽。毕竟机体只是工具,它替人类分担一些计算和诠释的重担,以加速人类进步的步伐。人脑的工作仍旧保持不变——发现需要分析的新资料,发明有待测试的新概念。可惜‘人本协会’不会了解这一点。”

“他们反对机体?”

“假使他们生活在古代,他们还会反对数学、反对文字。这些保守分子声称机体夺走了人类的灵魂。我注意到在我们的社会中,能干的人仍是珍贵资源;我们仍然需要那些拥有足够智慧的人,想出和提出一些适当的问题。说不定,我们若能找到足够的这种人,总协,你忧心的那些脱序现象就不会发生了。”

地球(包括无人居住的南极大陆)

面积:54,000,000平方英里(陆地面积)

人口:3,300,000,000

首都:纽约

石英板后面的炉火孱弱无力,已不情不愿地燃烧到尽头。

总协一脸忧郁的表情,他的心境恰如逐渐熄灭的火焰。

“他们都尽量将事态淡化。”他以低沉的声音说,“不难想象他们都在嘲笑我吧?可是——文生·西佛说机体不可能出毛病,而我必须相信他。希兰姆·麦肯日说它们不会接受错误资料,我也必须相信他。但机体不知怎地出了问题,我同样必须相信这个事实。所以,仅仅剩下最后一个可能。”

他瞟了苏珊·凯文一眼,后者闭着眼睛,乍看似乎睡着了。

“那是什么?”她却立即作出回应。

“啊,机体的确接受了正确的资料,也的确送出了正确的答案,但答案随即被弃置一旁。机体没办法强迫人类服从它的指令。”

“在我看来,齐葛思苏斯卡夫人做了这种暗示,她泛指的是北界人。”

“是的。”

“违背机体又能达到什么目的呢?我们来考虑一下动机。”

“我看动机很明显,你也应该有同感。那等于是故意摇晃这条船。当机体统治世界时,地球上不可能有严重的冲突。反之冲突倘若存在,某些人便能为了自身利益而攫取更多的权力,全然无视人类整体所受到的伤害。如果能摧毁大众对机体的信心,令它们遭到废弃,那么丛林法则将再度出现。而四个界域,个个脱不了有此打算的嫌疑。

“东方界域境内拥有全世界一半的人口,热带界域则有超过一半的地球资源。两者都可能觉得自己自然是全球的主宰,而且两者都有一段受北方欺侮的历史,想要作非理性的报复乃是人之常情。另一方面,欧罗巴拥有唯我独尊的传承,它一度真正统治了地球,而权力是最令人难忘的一样东西。

“然而,换个角度来看,这却是难以置信。东方和热带目前都在自己境内大肆发展,两者皆以不可思议的速度蹿升,它们不可能有余力进行军事冒险。而欧罗巴能拥抱的只是梦想,它的军事实力等于零。”

“所以,史蒂芬,”苏珊说,“你只剩北方了。”

“是的,”拜尔莱中气十足地说,“没错。北方是如今最强盛的界域,若将其成员的历史包括在内,这个局面已经持续近一世纪。可是现在,相较之下它正在走下坡。热带界域可能即将攻占文明最前线,那会是法老时代之后的首例,有些北界人害怕这个事实。

“你也知道,‘人本协会’主要是一个北界组织,他们不讳言不想要机体——苏珊,他们人数很少,却都是有权有势之辈。这个组织的成员包括:不愿成为他们口中‘机体工友’的工厂厂长、工业界和农业界领袖,此外还有野心分子,以及觉得自己足以决定什么对自己最好、不愿听从机体的那些人。

“总而言之,那些人只要一起拒绝接受机体的决定,便能在短时间内把世界搞得天翻地覆——该协会的成员就是他们那些人。

“苏珊,一切都吻合了。世界钢铁公司有五名董事是它的成员,而该公司正面临生产过剩的问题。在阿马丹开采水银的统一辰砂公司,是一个属于北界的企业。我们仍在调查它的名册,但至少有一位负责人是会员。独力延迟墨西哥运河达两个月的法兰西斯哥·威拉法兰卡,我们已经知道他是会员——而拉玛·巫拉萨耶拿也是,发现这点时我毫不惊讶。”

苏珊心平气和地说:“这些人,我应该指出,表现得都很差……”

“但自然如此,”拜尔莱插嘴道,“不听从机体的分析,就是不遵循一条最佳化的路径,得到的自然是较差的结果,那是他们付出的代价。他们现在日子难过,但在终将来临的混乱中……”

“你究竟打算做什么,史蒂芬?”

“显然不能浪费任何时间。我要把‘人本协会’列为非法组织,将一个个会员从重要岗位上换下来。从今以后,所有行政和技术人员的职位,申请者必须具结一份非该会员的誓词,否则绝不录用。这将代表放弃某些基本人权,但我确信世界议会……”

“行不通的!”

“什么!为何行不通?”

“我来作个预测。你若尝试任何这样的举动,将会发现寸步难行——你将发现这个命令不可能贯彻,你将发现相关措施通通都会陷入困境。”

拜尔莱吃了一惊。“你为什么这样说?我满心希望你会赞成这件事。”

“只要你的行动建立在错误前提上,我就绝不会赞成。你承认机体不可能出错,不可能接受错误资料。但你认为‘人本协会’可以违背机体,现在我要对你说明,那也是不可能的事。”

“这点,我完全看不出来。”

“那就听好。任何主管的任何行动,倘若并非切实遵循机体的指示,那个行动就会成为下批资料的一部分。因此,机体会知道那个主管有些不服从的倾向。它能将这个倾向融入那些资料——甚至作定量分析,也就是说,判断出不服从的确实程度和方向。它的下一组答案,便会刚好有足够的偏颇,让那位主管在故意违背后,会自动将那组答案修正到最佳化的方向。机体一清二楚,史蒂芬!”

“你不可能确定这一切,你只是在猜测。”

“这是根据我和机器人相处一生的经验所作的猜测。你最好信赖这样的猜测,史蒂芬。”

“但若是这样,那还剩下什么呢?机体本身是正确的,它们根据的前提是正确的,这些我们已经同意。现在你又说,没有人能违背它们的意思。那究竟是哪里有问题?”

“你自己已经回答了。根、本、没、有、问、题!稍微想想那些机体,史蒂芬。它们是机器人,它们服从第一法则。可是机体并非为任何一个人工作,而是为全体人类服务,所以第一法则变成:‘机体不得伤害人类整体,或因不作为而使人类受到伤害。’”

“好啦,那么,史蒂芬,什么会伤害人类整体呢?经济脱序最有可能,不论它的导因为何。你不同意吗?”

“我同意。”

“未来最有可能导致经济脱序的又是什么?回答这个问题,史蒂芬。”

“我会说,”拜尔莱不情愿地答道,“是机体被作废。”

“我也会这么说,而机体也会这么说。因此之故,为了我们,它们的首要考量是保全自己。所以,它们悄悄处理了威胁它们的最后一项因素。其实并不是‘人本协会’摇晃这条船,试图令机体遭到毁灭,你一直把这一幕看反了。我们应该说,是机体摇晃这条船——摇得非常非常轻——刚好能把攀附在边缘的少数人摇掉,因为机体认为他们的行动会危害到人类整体。

“所以巫拉萨耶拿失去了他的工厂,在他无法为害的地方找到另一份工作——他没有受到严重伤害,没有失去谋生能力,因为机体对人类所造成的伤害必须尽可能轻微,而且必须是在拯救更多人的前提下。统一辰砂公司在阿马丹失去了控制权;威拉法兰卡不再是一项重要计划的总工程师;而世界钢铁公司的那些董事,则正在失去钢铁业的支配权——或说即将如此。”

“但你不算真正看透这一切,”拜尔莱激动地坚持道,“我们怎能冒险假设你是对的?”

“你必须这样做。你还记得当你对机体提出这个问题后,它自己的回答是什么吗?它说:‘这件事不可解释。’机体并未说根本没有解释,或说它能断定没有解释,它只是不容许出现任何解释。换句话说,假使公布这个解释,就会对人类造成伤害,所以我们只能猜测——一直猜下去。”

“假设你是对的,苏珊,但那个解释怎能对我们造成伤害呢?”

“啊,史蒂芬,假如我是对的,那就代表机体为我们筹划未来的方式,并非只是针对我们直接的问题提出直接的答案,而是对世界整体的局势、对人类整体的心理提出一般性答案。知道这点可能会令我们难过,可能会伤害我们的自尊。而机体不能——绝对不能让我们难过。

“史蒂芬,我们又怎么知道人类终极的幸福会伴随着什么?机体掌握着无限多的因素,我们却无从掌握!让我举个不算不熟悉的例子:整个的科技文明所带来的不幸和悲惨,说不定还超过它所送走的。一个拥有较少文化、较少人口的农业或牧业文明,说不定反而会更好。若是这样,机体就必须朝那个方向前进,而且最好别让我们知道,因为根据我们无知的偏见,我们只晓得自己习惯的才是好的——我们会坚决反对改变。也说不定,一个完全都会化的社会,或者一个完全阶级化的社会,或者一个完全无政府的社会,才是真正的答案。我们不知道;只有机体知道,而它们正带着我们走向那里。”

“但你是在对我说,苏珊,‘人本协会’是对的;人类对未来已经失去自己的决定权。”

“其实,人类从来没有任何决定权。人类总是受到自己所不了解的经济和社会力量的摆布,此外反复无常的气候、胜败难料的战争也一直在宰制人类。机体则了解这些因素,不会被任何一项所阻止,因为机体会像对付‘人本协会’那样对付这些因素——它掌握了最强大的武器,那就是对全球经济的绝对控制权。”

“多么可怕!”

“或许是多么美好!想想看,如今,所有的冲突终于能避免了。从今以后,只有机体是不可避免、不可或缺的!”

石英板后面的火焰熄了,只留下一缕轻烟作为它的遗迹。

“故事讲完了。”凯文博士缓缓起身,“我从头到尾看了个仔细。一开始机器人还不会说话,最后他们挺立于人类与毁灭之间。我看不到什么了,我的生命已到尽头。你将会看到下一波的发展。”

此后我再也不曾见到苏珊·凯文。她于上个月逝世,享年八十二岁。

同类推荐
  • 长相思3:思无涯

    长相思3:思无涯

    涂山和小夭终于解除了误会,事情的真相是否真如他们所想,两人能否最终相守,却尚有很长的路要走;历史的车轮始终向前推进,神农义军也将最终退出历史的舞台,作为神农义军将领的相柳也将面临最终的抉择。大荒的统一成为大势所趋,轩辕对高辛的战争也在所难免,面对养育自己的高辛俊帝、最珍视的亲人小夭和阿念,颛顼同样将经历最严峻的考验。而小夭究竟是谁的女儿,为何被母亲抛弃,小夭的母亲阿珩将亲自揭开谜底。
  • 包法利夫人(英文版)

    包法利夫人(英文版)

    《包法利夫人》这个故事题材并非福楼拜凭空编造。整个故事情节都取自于现实生活。夏尔·包法利是根据福楼拜父亲医院的实习医生欧解·德拉玛原型塑造出来的怀揣浪漫主义梦想的农村美少女艾玛,一面吟诵着那些关于大海、森林、星星等描述自然的诗篇文字,一面走向远离自然、充满物质与欲望的都市。艾玛嫁给夏尔初期,心中充满着对美好婚姻生活的期盼,她使尽浑身解数,拿出了她所了解的所有浪漫手段:吟诗作画、弹琴唱歌。怎奈既无骑士样貌又怯懦平庸、木讷迟钝、举止粗俗、不解风情的丈夫毫无情趣,在性关系上也不能满足她的需求,她很快丧失了对丈夫的耐心,她的婚姻变成一潭死水。于是,她决定冲出“牢笼”、寻找心目中浪漫的“爱情”。自从踏上追爱的路,艾玛的悲剧命运便已注定。艾玛一生经历了蜕变、堕落和毁灭三个阶段。福楼拜的笔就像一把手术刀,把艾玛人性中的全部弱点解剖得体无完肤……最重要的一点是,此次所出版的英译本,是最权威版本,同时也是无删节版的英译本。
  • 无土时代

    无土时代

    小说以现代文明高度发展的木城为背景,讲述了主人公石陀、天易、天柱、柴门等一群与城市格格不入的怪人,变着法儿与城市“对抗”,他们生活在城市里,却怀念乡村,留恋农耕,渴望原生态的风景,甚至试图在城市里开荒种地,种麦苗种蔬菜,上演了一出出悲喜剧……
  • 密室之无可逃脱

    密室之无可逃脱

    经过了一段的沉寂后,柳飞云与李晓峰合伙开了家只有一名员工的皮包公司。在整整亏损了三个月之后,他们饥不择食地接下了自开张以来的第一单生意:调查一具四处游荡的尸体!随后,便陷入到了一场前所未有的大麻烦之中……
  • 谁来伺候妈

    谁来伺候妈

    三个儿子三笔债。她已经身患绝症、风烛残年,因为这几个儿子还是不能闭眼,是她太要强,是她命太苦,还是做了母亲本来就是这样操心没够?他是一个孝子,却和母亲最喜欢的妻子离了婚,又不得不靠现在的妻子挣钱为母亲治病;他是一个好父亲,却为了给患先天性心脏病的女儿做手术,把老母亲逼到绝境;他相信举头三尺有神明,却为了一份迟来的爱情,把母亲气到胃癌复发……养儿本是为防老,可是,三个儿子不仅要分了她的房子,还把她送到了养老院!久病床前,谁来伺候?谁又会把时日无多的亲娘当成宝?母亲和儿子、媳妇那点事儿,说不完、道不尽,剪不断、理还乱,都因为血浓于水、根叶相连!
热门推荐
  • 火影里的氪金死神

    火影里的氪金死神

    你有烧不死人的火遁,我有最强火系斩魄刀流刃若火。你有冻不死人的冰遁,我有最强冰系斩魄刀冰轮丸。我就是我,忍界最强的烟火。叮咚:您的余额不足,请继续充值。“……”流刃若火,起勺开火我就是我,忍界最强的杂耍厨子,还请大家有钱捧个钱场,没钱捧个人场嘞!某只卡哇伊的小女孩:大哥哥请给我来一碗冰轮丸牌刨冰。“ok!”
  • 极品权财

    极品权财

    遇到穷人,散财来帮助他。遇到富人,散财来劝解他。遇到坏人,拿钱来砸死他。这就是我,一散财的好人!钱可以买到想要的一切,而我可以控制你们的财运,这就是我……赵立!
  • 天行

    天行

    号称“北辰骑神”的天才玩家以自创的“牧马冲锋流”战术击败了国服第一弓手北冥雪,被誉为天纵战榜第一骑士的他,却受到小人排挤,最终离开了效力已久的银狐俱乐部。是沉沦,还是再次崛起?恰逢其时,月恒集团第四款游戏“天行”正式上线,虚拟世界再起风云!
  • 这不是荣耀

    这不是荣耀

    一本在王者荣耀背景下写的虚拟故事,借用王者荣耀中的英雄名,写不一样的英雄故事
  • 公子我错了0a

    公子我错了0a

    一个人一旦混账久了,自然会有老天爷来收拾她。但我苏小江自认:我……也没那么混账啊。我向来行得正,得直,坦坦荡荡,走路带风。只不过年少不懂事的时候和家里的老头子闹了点矛盾,和他堵了一辈子的气,最后让他发人送黑发人……而已。对,混账至极的我……死了。 苍天饶过谁。但老天爷依旧没有放过我,让我附上了佩珠那个倒霉孩子的身子里,在梅园活了过来。“你叫什么名字?”“苏小江。”“在皇宫里,只有贵人才配有自己的名字。”那个谪仙般的人面色清冷,目光淡淡,递给了我一件厚实的衣衫。他叫孤月谨,是这处梅园的主人。我凭借着佩珠这倒霉孩子的身子,成功惹上了他这么一个麻烦。“公子,我错了——”孤月谨知晓苏小江说的都是些鬼话,但错就错在,他偏偏将那些鬼话当了真。 何其荒谬。
  • 那就爱上叶先生

    那就爱上叶先生

    这是一部很狗血的女主和男二在一起的小说,当然以后还会有下部,下部,就是大家认同的男女主角在一起啦!如果疑惑,期待的话,那就来支持大大吧!
  • 堂吉诃德(上)

    堂吉诃德(上)

    主人公堂吉诃德因沉迷于骑士小说,决定外出历险,做一名行侠仗义的骑士。他找来同村的农民桑丘·潘沙作他的侍从。他三次外出历险,作了许多可笑之事。最后他被化装成白月骑士的朋友打败,放弃行侠游历,回家不久后病倒。临死前,他醒悟到自己迷信骑士小说之过。
  • 少年与灵药

    少年与灵药

    2017年的时候,我遇见了一个很爱我的男孩,可那时我不爱他。
  • 拯救王子殿下

    拯救王子殿下

    黎家大小姐黎悦十八岁生日时收到他送的礼物,一款游戏——【拯救王子殿下】。这是什么恶俗游戏?而且一般都是拯救公主吧。黎悦一边吐槽还是点了进去。突然失去重力,一阵晕眩醒来后发现自己已经进到了游戏世界了。和现实不一样,这是西方玄幻的世界,有斗气和魔法的世界。黎悦愣神,发现自己被坑了。这个游戏无法退出,只有完成任务,也就是拯救王子才能回到现实。而且游戏里面死后会删档重来。黎悦咬牙切齿,以前觉得穆樾晟只是不要脸,现在才发现他就是个坑货。没办法,黎悦只能开始打怪升级的旅途。哦,重要的是救出王子。说到王子,不是说王子关在城堡等人救吗?谁能告诉她,这位笑得一脸淫荡的货是谁?最重要的是,为什么长着一张和穆樾晟一样不要脸的样子?呵呵,黎悦不傻,原来某人已经挖好坑,还好心推了她一把。很好,黎悦看着那笑得一脸欠揍的模样,温柔的笑笑:“放心,我定会护你不死。”不过,没说不能残,是吧!黎悦揉揉手指,笑得越发温柔。
  • 盘史记2012

    盘史记2012

    这是一部关于股市的故事。