三 阿西莫夫的暗示：机器人学三法则的相互关系与内在冲突

阿西莫夫机器人学三法则^[28]存在内部的秩序等级。具体而言，在阿西莫夫所陈述的机器人学三法则之间，作为对人类个体安全承担责任的第一法则，^[29]也即不伤害人类个体法则（可以简称为“不伤害法则”），该项法则高于第二法则，即服从法则，只有在不违反第一法则和第二法则的前提下，机器人的自我保护法则，即第三法则才能发挥作用。第一法则优先于第二法则，而第二法则则凌驾于第三法则之上。很明显，在阿西莫夫的机器人学三法则之间存在绝对性和重要性的递降关系。按照阿西莫夫自己的话说，他写作这两个作为压轴之作的机器人短篇其目的就是“试图采取长远的观点，看看机器人学的终极发展有什么可能”，而他以小说的方式所考察和思量的结果却是“我绕了一圈竟回到原点”。^[30]

这个原点是什么？笔者认为，就是阿西莫夫在机器人系列作品所一直坚守的三大法则。令人好奇的是，阿西莫夫为何会回到这个原点？更重要的是，他以何种方式最终回到了机器人学三大法则？

在《双百人》中，阿西莫夫以展现机器人学三大法则的内在矛盾的方式，反而揭示了机器人学三大法则的必要性和极端重要性。

首先，服从法则在极端情况下所产生的内在矛盾，这个矛盾构成了对服从法则的内在限制，同时构成对机器人安全保障的基础。

值得注意的是，对服从法则的反思，乃是最新近的关于机器人法律地位的著作以最清晰最明确最直接的方式所关注的——“机器人必须服从人类的命令吗！”^[31]在《双百人》中，在安德鲁得到安全保障之前，无论如何，机器人若试图自卫而伤害到人类，也是违反第一法则的，所以安德鲁无法对抗来自人类的要求机器人自己拆毁自己的命令，而安德鲁若不服从人类要求他自己拆毁自己的命令，则违反了第二法则。因此，阿西莫夫借助于乔治（小小姐之子、律师）之口，道出了服从法则的内在矛盾，从而要求将人类命令的界限予以明确界定：“如果根据第二法则，我们可以要求任何机器人在所有方面无限制地服从，除了不得伤害人类之外，则在此情况下，任何人类个体都拥有对任何机器人的可怕权力。此外，由于第二法则优先于第三法则，任何人类个体都可能使用服从法则以突破自我保护法则。他可以任何理由或者甚至没有任何理由而命令任何机器人伤害自己或者甚至毁灭自己。”并从生命伦理的角度提出了机器人的道德地位问题，即有义务善待机器人的问题，一边是用无生命器物进行类比，主张只要为人类做出贡献的无生命物都拥有被善待的权利（право на бережное обращение）；另一边是主张机器人不是草木不是动物，而是“足以进行高等思考，能与我们交谈、争论和逗乐”的被人类视为朋友的存在。由此，借助乔治之口，阿西莫夫提出了人类个体对机器人的权利的界限，即“如果一个人有权对机器人发出不得被理解为给其他人带来损害的命令，则他应当拥有足够的修养，绝不对机器人下达会给机器人带来损害的命令，除非为人类个体的安全所绝对必要”，^[32]这个道德义务构成了为安德鲁提供安全保障的法案的伦理基础，这个义务意味着除非为人类（整体或者个体）的绝对安全所必要，人类个体有责任不对机器人下达会给机器人造成损害的命令，“巨大的权力伴随着巨大的责任”（С большей властью приходит и большая ответственность）。

其次，不伤害法则所蕴含的内在矛盾。

零号法则和第一法则，均要求机器人不得以自己的作为或不作为使人类整体或者个体受到伤害，对于不伤害法则中伤害的理解应当如何界定？是否仅仅包括不得造成身体上的伤害，还是也包括身体伤害之外的其他的伤害？阿西莫夫展示了伤害的另一面，即除了通常意义上的身体上的伤害（физический вред）之外，其他的伤害，诸如机器人对人类采用说谎、怂恿他人说谎，以及威胁、强迫、欺侮和羞辱造成的伤害是否在不伤害原则所绝对禁止的范围之内？用阿西莫夫笔下主人公安德鲁的话来说，“但这不是身体上的伤害，他提醒自己，不是身体上的伤害”；更要命的是，在遭遇南怀瑾所谓的“恩里生害”“害里生恩”^[33]的情形时，机器人安德鲁渐渐说服自己，“某些似乎残酷的事，到头来或许是一项善举”，^[34]当机器人“安德鲁这样逼迫一个人类，却几乎未曾感到第一法则的任何抑制”则意味着不伤害法则的失灵。

最后，自我保护原则所遭受的威胁与矛盾。

在《双百人》第十八个部分中，有一段关于机器人权利的对话，作为人类的世界议院科技委员会主席问安德鲁“除了你现在已经拥有的权利，你到底还渴望哪些权利”时，安德鲁提出了机器人的生命权（право на жизнь）的问题——“机器人在任何时候都可能被肢解”；面对主席所谓的“一个人也可能会在任何时候被处决”的反驳性类比，安德鲁道出了机器人生命权的最现实最核心最重要的价值——“处决只有在经过法院判决之后才能进行。而要将我肢解，则不需要任何审判。只要拥有权力的人类的一句话就足以结束我的生命”，^[35]这种充满对人的尊严感和对生命的庄严感伦理感的自我保护要求，超越了在服从原则中的要求在界定人类命令权力的边界中的限制的层面，不能不深深震撼和冲击人类的内心深处，凸显出人类与机器人关系模式上的复杂性。

尽管机器人学三法则简洁清晰，但是无疑且不得不存在“术语模糊”和“需要主观解释”^[36]的问题，但是《双百人》不啻是一篇以对话方式做成的对机器人学三法则的解释性文本。阿西莫夫所构思和设计的，主人公安德鲁以漫长的六个人类世代，以牺牲永生的可能性和现实的生命为代价，所换取的成为法律上的人类的机会，通过主人公安德鲁的言行，侧面揭示也就是暗示了人类生命和尊严的无比可贵与无上价值以及必须“尊重人类的尊严、权利、自由”，^[37]同时也通过对机器人学三法则的逐项检视，正面展示机器人学三法则在人类与机器人关系中所可能存在的缺陷和不足，尽管没有明确提出修正机器人三法则的问题，但是作者已经无形中修正了机器人学三法则的意义，特别是从机器人与人类关系的建构上考虑到了对智能机器人的保护问题，特别是直接涉及将机器人作为非工具、非无生命物体、非动物的考虑，有将智能机器人作为准人类的或者说准智慧生命存在的倾向，并以此为基础修正了自己的机器人学三法则的含义。

在今天人们仍在研究来自阿西莫夫著名的“机器人学法则”的“造福”“不伤害”等原则时，^[38]特别是2017年2月16日，欧洲议会《关于机器人民法规范的动议》所提出的供机器人技术研发者自愿遵守的《伦理规则》（кодекс этики）时^[39]，关注阿西莫夫自己对自己的机器人学三法则的反思和解释，具有极端重要的意义和价值，只有这样我们才有机会、才有可能像作者自己理解自己那样去理解他的机器人学三法则。

然而这种修正，没有被作者明确提及，尽管在作者的考虑中明白无误地甚至是直白地限缩了机器人学三法则的含义。但是，阿西莫夫却并没有根据前述机器人三法则的内在矛盾对机器人学三法则的最初文本进行即时的修正，而是在从三法则的提出直到作者逝世期间，除了增加零号法则之外，维持了整个机器人学三法则的最初的文本表述。

其中的缘由何在？为何阿西莫夫已经看到了机器人学三法则存在矛盾，也清楚知道如何消除或者降低这种矛盾，却没有对机器人学三法则的最初文本进行任何的修改，而是保持一贯的如最初的表述，难道不令人奇怪吗？