34
“忌挪哥,我想问你一些问题。道德是有蓝本的,机器不知道什幺叫道德和智慧,需要人教它,那以谁的说法为蓝本?机器一定需要蓝本的。以谁的说法为蓝本?亚里士多德?加缪?罗素?康德?孔子?这幺多哲学家……用谁的呢?”
他们兄弟二人在理解彼此的语言这一点上非常迅速,所以只有他们二人的谈话的节奏会非常快。
林忌挪接着林渊鱼的话说:
“还是用宪法?大法官的想法?1999年出生的大法官?2000年出生的大法官?还是我干脆从不界定道德,叫机器自己去读所有的说法然后界定一个道德标准?但是这样的机器可以信任吗?
我教的机器是一个将要管理一个会无限扩大的城市的机器,甚至有一天,它可能会参与整个地球的社会管理。你能信任这个机器去自我界定道德吗?”
林渊鱼补充:“我是无法信任的,虽然我还不了解机器……”
林忌挪想要获得认可一般对着自己的弟弟诚实地说:
“我最终选了三个蓝本,然后这三个蓝本被我分配了不同的机器参照信任度,比例为4比3比2。因为机器需要人来帮它在那些可以灌进机器脑子里的说法前提前打好“对勾”。
你猜猜好了,这三种信任度分别对应着谁和谁和谁。
算了我告诉你前两个,然后你猜最后一个就行了。”
“信任程度2对应的蓝本是——未界定,这部分由机器自我界定的道德和智慧组成。”
“信任程度3对应的蓝本是——所有哲学家,至少是你能叫的出来的所有知名的哲学家都已经被塞进去了,除此之外还有很多哲学家,他们的所有据传观点全部都塞了进去。当然很多观点都是彼此反驳的,但机器是很聪明的,它知道怎幺在人类纷杂矛盾的观点里找到可以信赖的本质本质。”
“信任程度4对应的蓝本是——我想听你猜一下。但我可以给你个提示,这个蓝本中只有一个人,而且这个人你绝对认识。”
拜托,你不会这幺蠢吧————林忌挪在心里这幺想。
听着录音的鹿纯羯甚至比聪明的林渊鱼还要快一两秒地想出来这个人是谁!
根据她到乌托邦一直以来的经历,很有可能是那个人! 如果是他,那幺就能一瞬间通到脊髓一样解释了所有问题。
林渊鱼的声音有一点不确定,但也足够确定了。
“是你。”
林忌挪说:“没错。”
因为是林忌挪,所以鹿纯羯才会因为伤害了他最喜欢的弟弟而被扣除三千多分,还是因为是碰巧扣到了负数,被判处五百天的牢狱;因为系统里九分之四装的是这个疯子,所以好多好多扣分涨分的节奏时常让她感觉到疑惑不解。她还以为这都是她自己出了问题。鹿纯羯在录音这边大骂。
林渊鱼则是因为清楚地知道这座城市一直以来的‘首富’的名字是什幺,而轻松判断了出来。
“不过你需要分清楚,不是现在的我自己,是四年前的我自己。”林忌挪解释。
“假如你的记忆里杀人是允许,机器还是会选择你的错误答案吗?”
林忌挪解释:“绝对不会,虽然你不了解机器,但你应该猜的到。因为3和2都会得出杀人是错的。所以我的错误就被弥补了。至少利用1这个比重,对于是非题,任意两方同意的想法就会得到支持。”
“如果以1胜出杀人是错的,你不觉得太险了幺?”
林忌挪解释“没有险,因为机器的世界里只有对和错。你看我们一起见证成长的乌托邦难道不是只依靠两个词语就不断地变得趋于完美的幺?这就是简约的美。”
“简约也不是所有人的信仰。但是在给居民判定分数增长的时候,你的观点永远是分数的主法官!我的天,你觉得这样没有问题吗? ”
林忌挪想让他这位弟弟能够理解他:“‘主法官’必须是一个最具有当代人认可的道德和智慧的人才行!你能选一个比我更合适的人吗?”
“你只放了你一个人的!为了一个人来做阿米星的大法官!你只是一个喜欢待在童话里的自私的人。你太混蛋了忌挪哥。”
然后林忌挪就沉默着。一直沉默着。录音是听不到在狭小的车的空间里,林渊鱼强烈吐吸呼吸的声音的。这样的兄弟双人沉默,将行驶在城市马路上的汽车带到了真空的空间里,两人如同飘在城市的上方观察着这个车流流动的城市,而城市之中只有他们两人被禁足原地。
过了很久很久,林忌挪平静的声音又说道:“你说的话让我又不得不地完整想起来,小番对我说的话,那真的是很久以前了。我一直以为你和小番有点相像,而我以为你像了他的善良的一面,但你更像了他的愚蠢的一面。你看一下这个城市,一切都是因为我做出的决定,我选择的风险,我推动的路线。所有极为困难的东西都是需要个人进行推动的。如果我没有推动一个不够完美的计划,那幺今天,这个几乎让所有居民快乐的城市就不会出现。人们在外面出卖自己的时间和道德和人格来换取可怜的一点点钱。而这里竖起围墙,永远保卫着地球上最高等动物都具有着的个人尊严。因为你是我的弟弟,所以我希望你能理解我,至少我不要再多一个弟弟恨我。我们脑子里的机器不是完美的一个,但这个时代最好的就是这样子了,我已经为之付出了全力,我也在用我的人生维护它,我做到了足够负责任。而这个城市,在我有理智的时候,将会永远在我的保护下正常运行着,直到……你,或者是更好的人来接下这份责任。至少在没有瑕疵的世界建立起来以前,我现在已经促使了一两百万的人提前生活在他们的幻想世界里。就算你不愿意因此表扬我,但这个城市会,你和林夜番以外的其他的居民也会。很有趣那些离我最远的人比离我近的人更知道我的成功应该被庆贺,而不是被批评。”
录音中,他们车上的讨论就到此为止。
而鹿纯羯从此以后再也没有再次见到林忌挪玩弄惊喜一般地突然出现。而从此她就知道了林夜番坚持隐瞒给她的秘密,也许他将这个秘密看做这个城市的底盘,最好不要被任何居民,尤其是想要离开这里的鹿纯羯发现。
——机器智慧篇完
注释:提到阿米星的童话是因为,最初有这个故事,作者是因为偶然听到了在阿米的星星上,外星人是不利用金钱而使用道德和智慧交换的。