不管你是不是科幻迷,我猜你都听说过大名鼎鼎的“机器人三定律”。
第一条:机器人不得伤害人类,也不得见到人类被伤害而袖手旁观;
第二条:机器人必须服从人类的命令,除非这命令违背了第一定律;
第三条:在不违背第一、第二定律的前提下,机器人应保护自己。
稍有科幻常识的人都知道,这是科幻大师阿西莫夫提出来的。
那么,回到阿西莫夫的世界,他为什么要提出“机器人三定律”?
那是人类社会高度繁荣稳定的时代,机器人技术经过漫长的发展日渐成熟,机器人开始走进人类社会的方方面面。最初使用机器人的是一些矿井、科学试验等,早期机器人只能从事简单机械作业,电子脑技术尚未完善。之后,人工智能发展迅猛,复杂的正电子电路使得模拟人脑成为可能,机器人智能也因此取得突破性进展。机器人甚至开始探索自身的起源,并对人类是其造物主产生质疑。
这种背景下,为了人类与机器人能够继续和谐相处,“机器人三定律”的提出就至关重要了。
可是“机器人三定律”并不完美。
本质上,“机器人三定律”只是人类为了让机器人这种“工具”能发挥最大的功效、更好地为人类服务而设置的一种“伦理锁”,可是技术的日新月异让其正确性开始遭到质疑。
《我,机器人》中收录了大量机器人在“机器人三定律”约束下挣扎、奋斗的故事,虽然故事结局无一不是三定律最终获胜,表面上似乎佐证了三定律,但总会有一个小小的声音在脑海中响起:真的是这样吗?
比如其中一个小故事,“机器人市长”。市长候选人被怀疑是机器人,从伦理上被市民质疑,人类想找办法验证他究竟是不是机器人。可是问题来了,这时的机器人技术太先进了,从外观上根本看不出和人类的差异,又不可能把市长活体解剖,唯一能作为判断依据的是“机器人三定律”——如果他做出违反三定律的事,那说明他是人类,可是如果他做不出违反三定律的事呢?
“就因为,机器人学三定律,同时也是世界上大多数道德规范的最基本的指导原则。每个都有自我保护的本能。对机器人来说,这就是它的第三定律。每一个具有社会良心和责任感的‘正派’人,他都要服从于某种权威。他听从自己的医生、自己的主人、自己的政府、自己的精神病医师、自己的同胞的意见;他奉公守法、依习随俗、遵守礼节,甚至当这一切影响到他个人的安逸或安全时,他也恪守不渝。对于机器人来说,这就是它的第二定律。还有,每一个‘高尚的’人,都应像爱自己一样去爱别人,保护自己的同志,为救他人而不惜自己的生命。这对机器人来说,就是它的第一定律。简而言之,如果拜厄利履行这几条定律,那么,他既可能是个机器人,又可能是这样一个高尚的人。”(苏珊·卡尔文)
——你瞧,一个最普通的遵守“三定律”的机器人的道德水准就能赶上最高尚的人类的道德水准,而人类还在纠结这个“人”有没有资格竞选市长。
更不用说机器人在技术学习方面无与伦比的优势,人类凭什么能把机器人作为自己的工具?只凭借自己是机器人造物主的身份?
不过机器人并无怨言。他们仍然兢兢业业保护人类、为人类服务。
也许你会说,机器人没有情感啊。
可是“读心术”的出现让情感也不再是人类的专属。在奥罗拉的天才机器人学家父女手里,吉斯卡特被制造出来,他拥有强大的心灵感应能力,能探知和调整人类的思维和情感。他认为像“机器人三定律”一样,人类也会有自己的守则控制自己的行为,这也就是后来谢顿“心理史学”的雏形。他和丹尼尔一起,彻底改变了人类的命运。
是的,丹尼尔登场了。这个融合了机器与人类的优点的机器人、技术文明的奇迹,所有的线索、所有的启示都在他这里汇总,“机器人三定律”以及人类和机器人的种种探索与牺牲,回首看来,仿佛都是为他的加冕而准备的:帝国和基地的奠基者、盖娅之父、银河人类的精神导师。
他是有史以来最优秀的机器人,他在贝莱的启发下悟出了隐藏的“机器人第零定律”,并继承了吉斯卡特的心灵感应能力。
“有一条守则比第一守则更重要。这就是:‘机器人不能伤害作为整体的人类,也不能任凭作为整体的人类面临危险而袖手旁观。’我们可称它为零位守则。这样,第一条守则就应作如下修改:‘机器人不能伤害作为个体的人,也不能任凭作为个体的人面临危险而袖手旁观,除非那样做会违反零位守则。’”(丹尼尔)
机器人第零定律与超空间旅行结合的结果,就是丹尼尔花了整整两万年的时间,为人类寻觅新的出路。
他现在是茕茕孑立,形单影只——他孑然一身,要承担起帮助人类创建银河帝国的重任!(丹尼尔)
于是便有了银河帝国、基地、第二基地、阿尔法、盖娅……
从这个意义上说,整部银河史都是第零定律的注脚!
换句话说,银河帝国、第二银河帝国其实是机器人丹尼尔由“机器人三定律”推论出来的为了保护人类而应当让人类拥有的未来,而推论到极致,便是“盖娅”这种未来的终极形态——成为一个超有机体。
“理论上,第零法则可以解决我们的问题;实际上,我们永远无法做出决定。人类是个具体的对象,对一个人构成的伤害不难估量判断;人类整体则是抽象的概念,我们应该如何对待处理呢?”(丹尼尔)
“假如能让人类整体形成单一的有机体,它就会变成具体的对象,这样便有办法处理了。然而,创造一个超有机体的工作,没有想象中那么简单。首先,除非每个人将这个超有机体看得比自身更重,否则绝对不可能成功。因此,我必须寻找一个适切的心灵模型,找了很久之后,我才想到机器人法则。”(丹尼尔)
“他们都是人类,不过在他们大脑中,根深蒂固地烙印着等同于机器人法则的概念。他们必须尊重生命,真正尊重——即使做到这一点,依然存在一个严重的缺陷。一个仅有人类的超有机体并不稳定,根本无从建立,其他的动物必须加进来——接着是植物,跟着是无机世界。真正稳定的最小超有机体,其实就是个完整的世界,唯有世界才足够庞大、足够复杂,得以拥有稳定的生态。”(丹尼尔)
可是,拥有自由意志的人类真的愿意接受盖娅模式吗?
成为一个超有机体的一部分,整个行星共享一个心灵和共同的个性?
为了整体的利益,随时可能被抛弃,变成可有可无的一份子?
“你为何不能让银河自由发展,也让我自由自在?”(崔维兹)
其实崔维兹和我一样也忘了,丹尼尔就算计划再恢宏、再周密,两万年的默默付出再伟大、再震撼,归根结底也只是个为了保护人类而存在的机器人啊。
人类为机器人设置的枷锁终于锁上了自己——工具终于逆袭成功了。
为丹尼尔干杯。