第5章 回声测试

彼得·沃茨

彼得·沃茨原先是一名海洋生物学家，因小说《海星》（Star Fish）、《盲视》（Blind Sight）而名声大噪，还有一些故事则反响平平。另外，他成功地在没被起诉的情况下重述了约翰·卡朋特的作品《怪形》（The Thing），且与一些权威人士有点过节。虽然他享受作为一个非畅销书作家所取得的小小成绩（作品被译成二十种语言，屡获各类奖项，从科幻小说到纪录片再到学术作品都有获奖，偶尔还会做些命途多舛的电子游戏），但最近他将这一切都抛诸脑后了——他选择参与制作一部黑色金属科学歌剧，讲述的是将石花肺鱼送去火星的故事，该项目由挪威政府资助（歌剧项目，不是肺鱼项目）。就目前来看，这个项目的回报率更高。

距离资金耗尽还有六天，土卫二给了美杜莎[14]号一记重锤。海床尚未隆起，有外力从侧面撞击了探测器，机载热敏电阻的数值突然激增——80°、90°、120°。刹那间一道闪光出现。海洋竟然沸腾了。岩石遍布的海床正在倾斜，仿佛某个怒气冲冲的巨人一脚踢翻了桌子。

信号中断。

遥测数据通过黑色的碱性海洋向外输送。固定在冰层下的信号中继器捕捉到了这些微弱的声音，将之放大并传播。在距离地平线一百八十公里的地方，尤瑞艾莉号像个巨大的金属藤壶，紧紧依附于冰层底部。它从各种噪声中过滤出了信号，通过六公里的重冻地壳把信号直传给了丝西娜号。丝西娜号在断裂的地平线上双手合成桶状，向下传导信息。

“该死！”九十八分钟后，兰格出了声。他抑制住想要捶舱壁的冲动，问，“我们能把它救回来吗？”

“也许吧。”珊莎已经采取了一些应对措施，“但我不能保证结果会怎样。”

十八个月了。

踩点、抽样，试图在那些烟囱[15]周围找到硫化氢的踪迹。这样的事情他们做了十八个月。这一年半他们围着地球的卫星——月球飞行，遥望着土星的卫星，明知希望渺茫，却仍期盼远处的那颗星球不似月球这般死寂。无效的化学成分被剔除，无定论的研究结果被抛弃，渐渐地，当初完整的科研团队只剩下唯一一位忠实的助手还陪伴着兰格。他们并肩作战，直至经费耗尽。

如此收场亦在意料之中。

他们的诊断查询和重启命令需要经过一个半小时才能到达恩赛勒达斯；假如那里的机器人可以进行答复的话，他们又需要同样的时间才能收到回答。天晓得要经过多少次信号往返才能让机器人重回正轨。

“你还是去睡会儿吧。”珊莎说，“就算你一直待在我旁边，无线电波也不会传得更快。”

兰格叹了口气：“好吧。除非像舱壁破裂这样的大事，否则别来烦我。”

“行。”

“我是指裂得很严重那种情况，比如遇到了像飓风一样强的太阳风。”

“没问题。”

他穿过舱门，向上爬去。很久以前有人用紫色记号笔在舱门上潦草地写下“控制中心”几个字。沿路的曲折回环处曾是戈根奈人[16]常光顾的地方，如今已被轨道炮手和巨石牧马人占领，他们的那些项目才是真的前程大好。兰格一路上强颜欢笑，半心半意地挥着手，待爬进自己的小房间，初时的兴致十已去九，空气里弥漫着熟悉而自在的汗臭味与防腐剂的味道。他本想给地球上的雷蒙德打个电话，但在计算时区时睡着了。

显示屏上的美杜莎号淹没在各种闪烁的诊断数据中，像一个头足纲动物的幽灵，各肢体横展着，宛如在解剖盘上受刑的耶稣。

“她也跑得太偏了。”珊莎说，“信号中断之后她居然还跑了二十一公里。那些间歇泉可不是开玩笑的，余波相当严重。不过——”她刻意停顿了一下，“我还是把她救回来了。”

“你真是战无不胜。”兰格承认。

“坚持不懈是我的中间名。”不管怎么说，确实救回了其中一个，“燃料电池受损。电量撑不了几分钟。”

兰格盯着屏幕说：“我们还是可以直接利用梯度行进。之后就不再短时加速了，不过我们的速度原本就偏向慢和稳。”

在六个肢体中，有一个肢体的脉冲呈现黄色。“另外A4被毁了。它和集线器的硬连接也丢了——现在的这个前肢能动，但它没有连接线，而没有连接的备用品则没有任何价值。”

兰格指着显示屏，A4的替代品传回了数据。“我觉得看起来还行。”

“在这里当然还行。但受损的仪器在那里造成了各种电磁泄漏，把信号弄得一团糟。我们能在这端清理大部分静电，可那边的路由器基本上只能接收到噪声。不过你来看看这个……”画面上的美杜莎号站了起来，六条腿开始跳起踢踏舞来，“我让小美动了几步，来了解她整体的运作情况，然后……”

A4在跟着步调，至少它在努力跟上。这个肢体并没有和其他肢体完全同步，但它也没离得太远。

“它一直在看别的肢体。”珊莎报告说，“它没有收到直接的运动指令，所以它只是在——模仿其他伙伴。”

兰格咕哝了下，颇受感动：“机智的小家伙。还有别的消息吗？”

四个肾形结构在集线器中闪着红光。“我们失去了浮力控制。外面有块锋利的石头正在磨损我们最好的凯夫拉纤维，差不多磨了两平方米。”

这可不是件好事。“我们能游吗？”

“就连逃离底部都做不到。两个气囊上都破了大洞。”

“自动修复呢？”

“最起码修复肢体没问题，但是没有电池它的速度会变慢。不过最后可能连电池也能修好。但气囊怎么办？”她摇了摇头，“没有配件的话你是修不了的。”

“所以，那就只能这样了。”他头痛了，“我想我该去收拾行李了。”

“我们就这样放弃？”珊莎道。

“珊，我们被困了。而且，已经过去十八个月了。要在接下去几天有所发现的可能性又有多大呢？”

“那已经有所发现的可能性有多大呢？”

他看向她，她回望着他。

“有话直说。”他最后说。

美杜莎号从显示屏上消失了，取而代之的是对比度很低的2D图像，红外画面上全是颗粒：兰格认出了岩石裸露的山脊，以及冰冷而脆弱的枕状熔岩。出现了模糊的海底地貌，接着机器人趔趄了下，画面转向了左侧。

某个明亮的东西突然闯入画面。

“那是——”

再次出现。

“——什么？”

“A1的缓存画面。”珊莎用停帧模式重新播放了这段视频，“当我们失去联系时，有几秒钟视频片段卡在了缓存里。”重播的视频中出现了许多不稳定的连拍快照。当阴暗的地势从镜头中消失，一个明亮而模糊的东西踩了进来。一道亮光糊住了左侧画面。接着，稍微向上晃了一下。

突然，锋利的边缘，有好几个面，还有结构。只有一两帧画面；然后画面里又出现了动态模糊。

“天啊……”

“画面经过了增强。”她提醒他。

“我知道。”头痛立刻被他抛到脑后。

“被动红外。比周围环境高半度，最多高一度。”

“它是对称的，”兰格说，“它有两个面。”

“有可能。但从这个角度无法确认。”

“还有其他相机捕捉到这个吗？”

“没有。而且声呐系统已经弄乱了，所以从声——”

“你看到它动了吗？我觉得它动了。”

“兰格，那是一次火山爆发。所有东西都动了。”

“我们必须回去。”

“我们不能游泳。”她提醒他。

“我们可以爬。”

你可以驾驶美杜莎号。或者说，你可以变成美杜莎号。你可以四处观察，在主观实时状态下对数据流进行取样，在过程中观看所有程序处理与实际情况。你甚至可以脱离自己的视角，如幽灵般穿过甲壳，从外面回看机器运作。这个机器人的插补机能相当好。

走过那些无法避免的光分[17]，你唯一不能做的，就是改变过去。

兰格正在以第三人称视角驾驶美杜莎号，周围都是几小时前存在档案中的现实场景，其场景距他有几个天文单位之远。就算这个机器人完好无损，它偶尔也会出现闪烁情况；现在整个世界都晃得厉害，视野中几乎总是出现一阵阵雪花点，就像视雪症患者一般。“修复正在进行。”当他接通视觉信号时，珊莎淡淡地告知他。

在兰格双眼下方几米处，美杜莎号正沿着海床缓慢移动：从生物力学的角度看，它是一种介于章鱼和海蛇尾之间的怪物。几个肢体依次前伸后缩，每个都很智能，每个都处于半自动化：从裂缝和鲨鱼齿状的岩石凸起处获得短暂牵引，将身体从后往前拉，再将之推向前，一步一步更换握住的地方。即便已被损坏，几个肢体互动的方式还是有一种奇特的优雅感，像某种无骨的慢动作芭蕾。

除了A4。

它尽了最大努力。兰格可以看到顶部集群在其壳内旋转，它正竭尽全力，想要跟上其他肢体。他发现那个肢体偶尔会犹疑，像是中途因为什么隐形泡泡而分心一样。它往前伸，抓住，拉。总会落后半拍。美杜莎号蹒跚向前，就是节奏有些不稳。

“它在进步。”珊莎在一片空虚混沌中出了声，“之前它为了保持同步会去模仿所有肢体，现在它已经知道只要模仿三号和五号就行。”

数据出现暂时中断，他眨了眨眼，说：“连每秒半米都达不到。”

“在这种情况下，还是不错的。”

兰格切断了模拟图像。阴暗的深渊消失了；控制中心脏乱、布着电缆的狭小区域出现了。“我们来提高A4的时钟频率。如果它是在模仿其他肢体，我们至少可以让它反应快点儿，帮它跟上。”

“好的。”

他双唇紧闭，然后说：“其他肢体居然在补偿方面没有做得更好，这让我有点惊讶。”

“如果A4行动的预测性再强一些，它们是可以做得更好的。A4每动一下的反应时间并不一致。”

“知道为什么吗？”

“正在想，”珊莎说，“肯定和明显的物理损伤有关，但还有别的因素。它在不停反馈未知错误。”

“这样啊。”

“是的，它在感到痛苦，但它不知道为什么。”

“我是说，我们可能发现那个东西了。”兰格道，然后等待回复。

“嗯哼。”两秒半后，雷蒙德回答。

“别再说什么‘续约还在考虑中’，也别再说什么‘地球上都已经乱套了，你怎么还能浪费钱去找外星人’。假如这个真的成了，他们是无法阻止我们的。我们可以把你从那个鬼地方弄出来，然后再回到这儿。让整个团队重新凝聚起来。”

“听着不错。”停顿的时间似乎比平时地球/月球延迟长很多。

兰格翻了个白眼，道：“试着控制一下你激动的心情。”

“抱歉，只是……只是这还没什么进展。”

“这已经比我们之前进步多了。”

“这是我的看法。我们已经在那儿考察十八个月了，你看看我们都发现了什么？”

“复杂有机体，以吨计算。”

“没有生态系统的迹象，也没有新陈代谢的特征。”

“别这样，雷。我们只调查了海底区域的6%。”

“但就数据而言，如果那里真的有生命的话，这个比例已经足够发现它了。”

“如果它分布得很不均匀的话就有可能发现不了。如果它只局限在某些烟囱附近就发现不了。而且，如果它是以新型分子模版构造而成，那普通的测试根本就发现不了它。除非你真的见到了那种生命，否则你都不会知道它的存在。”这种争论由来已久。从第一天起，他们两个就是一个乐观、一个悲观。

“珊莎怎么说？”雷蒙德好奇道。

“基本上是让我别抱太大希望。”

“这个建议不错。”

“天哪，雷。”兰格摊开双手道，“你在说什么？难道我们都不应该确认一下吗？”

“你们当然应该确认。但是不管我们所有人都回到那里这件事有多好，你知道有什么事情比那更好吗？让你回到这里，回到一个你可以打开窗户的地方。”

“是啊。假如不是一开窗就会被天气害死的话，那件事可能会更吸引我。”

“见鬼，最起码你讲话的时候不会有三秒延迟。”

“两秒半。远程通话进步了很多。”

“你也进步了很多，”雷蒙德告诉他，“也许是时候回来了。”

“好吧，这东西就是个绣花枕头，我们居然在走回头路。”

“反正都是偏离航向。”珊莎承认道，“你知道A4开始模仿所有肢体了吗——”

“然后又把模仿对象降到了两个，对，我知道。”

“现在它又在模仿全部的五个肢体了。偶尔，不是一直。”

“什么？你提高了它的计算机处理速度，不是吗？”

“我不需要。”面对兰格的目光，珊莎说，“我能看出来，A4是在自主做决定，它通过加快自己的反应速度来弥补损伤带来的后果。那个肢体的系统延迟目前已经低于200毫秒了。”

“但是我们却越来越慢了。”兰格从墙上拿下VR眼镜，启动时间仪器。恩赛勒达斯的海洋将他整个吞下。

多亏机器人一直在进行自动处理，所以数据流已经进行了部分自我清理。兰格睁开眼，看到一幅由声呐、电磁和红外组成的3D复合图，眼前不再是空白一片，他可以看到海洋中的东西。海底的裂痕温度极高，在红外画面中如红唇般闪烁，非常之亮。磁场线出现在基岩上，以完美的发光形式呈弧线外散，就像电机的光环一样一直延伸到土星上。美杜莎号将周围的等值线弯成一个明亮的结，从这台强大的发电机中取出极少量输出电流供己所用。兰格降低了增强功能，将机器人的各种虚假色彩减为扭曲海景中暗淡的铁灰色。

现在每走一步都会磕绊。美杜莎号走起路来就像一只身残志坚的昆虫，失去了半数腿但仍不气馁。A4勉强同步。当它竭尽全力时，它动作较慢，会落后于整体；而当它没有尽力时，它就只是——随意地划水。

“没有任何代码让它这么做。”珊莎说，虽然看不见，但和他很近。

这个第三人称模式真是够了。兰格点击A4的顶部集群，感到一阵短暂的眩晕：瞬间他就到了内部，从肢体的顶部向外看。

“跳过那些无聊的步骤。让我看看异常部分。”

时间加速，停：A4从一个肢体看向另一个肢体，每次都会停顿一下。它的数据画面悬浮在右下方，报告有声脉冲发出，且没有返回。

画面模糊，停：远处有个模糊形状，是一块火成岩凸起，位于布满气孔和针状体的海床上。它的质地不知为何有些奇怪，兰格不能用手去触碰。A4情不自禁地一直盯着它看；直至其他更有纪律性的同伴把它拖走，A4才收回目光。

画面模糊，停：由于某种构造事件，一块玄武岩整个撞进了一块锋利的岩脊中。笼状冰柱从其表面喷发；美杜莎号的调色板将它们涂成天蓝色，使其闪闪发光。

“它倾向于关注分形维数为2.5至2.9的物体，”珊莎告诉他，“开始在2.8左右失去兴趣。”

“知道为什么吗？”

“我看不出这有任何功能性意义。没有潜在生命迹象，和构造危险没有关联，至少在这片海洋里看不出它们有什么特别关联。我用豪斯多夫参数进行了搜索；与之最接近的是多面体和波洛克的绘画。”

“所以我们正在看什么？”

“美学。”珊莎说。

“很好笑。”

“如果你仔细看的话，”她说，“你会发现我没有笑。”

他把VR眼镜取下。她没笑。

“美学。”兰格重复了下。

“想不到更好的词了。”

“你在说，怎么，A4就是喜欢固定的形状？”

“那正是我的意思。”

他好好想了想，道：“滚开。”

“它和延迟下降是相符的：网络隔绝，时钟速度增加，一致性增强。”

“性能降低。”

“那也是信息系统的一个特征，如果——”

兰格举起一只手。“别说那个词。”

过了一会儿，他接着说：“性能降低也是信息系统的一个特征，说明这个系统实在太笨了，以至于会忘记之前学会的东西，不去模仿两个，而又重新模仿五个肢体。”

“我不觉得是这样。模仿参数改变了。我认为——”

手又举起来了。“如果你说镜子测试的话——”

“我不会这么想，因为不是镜子测试。但是假如你忽然醒过来，发现自己和别的东西相互连接，而且它们还和你长得很像，你难道不会想和它们交流吗？”

“我的大部分人生都被那些跟我很像的东西包围，我来这就是不想跟它们交流。”

“我估算了一下标准化Phi相关系数。”珊莎说。

兰格闭上眼睛，说：“你当然会算了。”

“我把我们能够解释的损伤都清了出去，然后再研究剩余部分。我将延迟和集成指标也考虑了进去，然后从诊断测试中得出了一个大致结果。”

他没问，反正她都会告诉他。“0.92。”

“所以美杜莎号是有自主意识的。”

“不是全部都有，只有那个肢体有。”

“这只是数据而已。”

“你的那个未知错误。”

她的鼻子皱了下，相当于耸了下肩。“在存在性痛苦方面没有明确的错误代码。”

“假如真有的话，”兰格说，“我现在就要从这里回去了。”他深吸一口气，说出了口：“你知道我们要停止研究了，对吧？”

“它是有智慧的，兰格。那里面有生命。”

他点点头，说：“不管它们是谁，它们都把整个系统给拖垮了。我们最后只剩六十九个小时，结果我们还走错路了。如果把这个拖累去掉，我们就不会偏离航向，也能取得更大进步。”

“我们不能这么做。”

“为什么不能？”

“因为意识加需求等于权利。难道不是这样吗？你我不就是因为如此才是人吗？”

“什么需求？A4才不在乎它是生是死。”

“你就这么确信？你跟它聊过了？”

“它不可能在乎。它没有边缘系统。”

“但它有任务不是吗？任务优先级。虽然那个可能不是所谓的直觉或需求，但它可能是个类似的东西。痛苦的一个经典定义就是，强迫压抑自然的行为。不让A4完成它设定的任务就像抓住一只正在迁徙的鸟儿，把它关进笼子里。”

“珊莎，它现在都能自由选择任务优先级了，它肯定已经很强了。”

“它是个新生儿，还在学习。”

兰格忍不了了：“你就这么确信？你跟它聊过了？”

“我可以跟它聊，我们可以跟它聊。”

“怎么聊？它难道在我们看不见的地方自学人类语言吗？它只会说状态报告和错误代码——”

“潜意识交流呢？”珊莎提议。

“你自己说的，没有存在性痛苦的错误代码。”

“那就给它一个。教它说话。”

“这什么都改变不了。这没有任何意义。”

“为什么没有？”

“因为你可以把自然语言的模式灌注进任何老机器人，然后它就能通过图灵测试。自然语言只是数据流程图而已，并没有理解的成分。你以为让美杜莎号学会说‘它受伤了’而不是‘数据包丢失’，就可以证明什么吗？就算那里真的有什么——”

“那里有，兰格。如果我们谈论的是有血有肉的生命，你就不会立刻否认这个方案。”

“行，你怎么把流程图和鬼魂联结在一起？鬼魂怎么影响代码？”

“我不知道，兰格。这个可能得要它自己搞懂了。”

“这是一种涌现现象。你难道真以为磁力场可以倒转回来影响磁铁吗？”

“否则A4怎么会对看风景感兴趣？”

“因为产生q场的结构也会产生某些奇怪的非适应性行为。这不是什么未解之谜。”

“对，一切都是相互联系的，没有什么是不重要的，我们为什么特殊？为什么？就因为我们碰巧最先醒来？”

“因为我们真的有需求，珊莎。因为我们在乎自己究竟是生是死，而且我们作为一个整体，判定痛苦不是一件好事情。”

“兰格——”

他打断了她：“不行，我很抱歉。我已经决定了。”

她沉默了一会儿。

“行吧，至少你还知道做好决定了。”她说，随后消失了。

* * *

“我简直不能相信，她居然搞到了禁令。”

雷蒙德眨了下眼，问道：“什么？”

“我收到一份机器人与自动化工程国际会议（ICRAE）的备忘，‘在确认其是否具有潜在涌现人格之前’，我不得‘弃用或拆毁美杜莎号及其中任何自动、半自动组成部分’。他们甚至暂停了路由器的维修，因为和较大系统进行高带宽重组可能会‘使本地实体散开’。”兰格握紧拳头，“我不敢相信她居然背着我这么做。”

“但那个东西是有意识的，对不对？”

“那就是个肢体。你知道病变体突触数量测试吧？它连乌鸦都不如。最多就是只猫。”

“猫不能感到痛苦吗？”

“A4不能感到痛苦。如果你什么都不怕，是不可能感受痛苦的，如果你什么都不需要——天啊，雷，你是知道这些的。”

“不好意思。对，我知道，在理性层面是知道。不过，你知道，通常人工智能真的会有恐惧和欲望。”雷蒙德咧开一侧嘴，笑了，“我总觉得这很搞笑，你知道吗？我们用了一百年的时间编出那些电影和虚构故事，说什么机器人起义，人工智能依靠自己成了上帝——然后我们决定，不让故事成真的最好办法就是让它们拥有生存本能。都这样了，还想一切正常运行吗？”

兰格发现自己违心地笑了。

他止住笑容，说：“我从未见她对一件事这么有热情。我都不知道她还能这么有激情。”

“是啊，那——”画面传来太阳黑子活动导致的静电干扰——“就是神经形态学的事情。什么都是涌现。给他们一个勉强可算是‘本能’的任务，他们就可以从那个东西里弄出个杏仁核来。”

“这也还好。”兰格摇摇头，“你知道我最气的是什么吗？我们的争吵还没结束，她就去要了这份禁令。她背着我做了这一切，我们都没商量一下。我甚至什么都不知道，她就去做了。”

“哇，她好像提前知道你会这么说一样。”

“这是什么意思？”

“没什么。”雷蒙德在四十万公里外耸了耸肩，“就是，可能最好永远别和那些思考速度是你十倍的人吵架。”

“想得快不代表更聪明。她只是在同样的时间里想了十倍废话而已。”

“喂，你要感谢她不能再多做些什么。如果她不受控了，那你还要经受多少乱七八糟的事情。”

兰格触发了电子增益，希望可以消除静电，结果却变得更糟，他便又调了回来。“这该死的东西现在真的只能爬了，而且有一半的时间它甚至还不沿着正确的方向爬。照这样下去，我们能不能见到外星人都不重要了。我们根本没有时间。”

“申请延期。考虑到现在的情况，只有这样了。”

“我已经申请了。他们说这东西看起来像是由外星矿物构成的。”兰格抬眼望着所谓天堂：上帝啊，现在就带我走吧。“自从NASA[18]垮台以来，什么都变得一团糟。那些新人只关心他们的股东和非暴力反抗者，那些傻子叫唤说，恩赛勒达斯是零点指针公司的幌子，他们想要造自己的太空方舟，好逃去火星。”他将头轻轻抵在显示屏上，“那个该死的女人。”

“你有没有想过这可能跟美杜莎号没关系？”

兰格僵住了。

“我是说，这也太巧了吧？”雪花点在雷蒙德的脸上闪着光芒，“我们花了一年半的时间，结果什么都没有，然后就在资金要断的时候，你们忽然发现了一个可以扭转全局的东西。接着美杜莎号离站点越来越远，没人知道它要花多长时间才能回来。而且现在你们连路由器都修不了，所以需要的时间就更长了。这一连串坏运气，才能刚巧使任务延期，而这几帧增强图像可能最后什么都不是。”

兰格皱眉。“你是说她造假了？”

“当然不是。反正肯定不是故意的。不过你知道的，这年头还有什么不是假的？在任何人见到之前，美杜莎号传出的所有信号就已经被充实过和修改过了对不对？所有东西都是虚假的颜色和傅立叶变换[19]。既然我们正在寻找生命的迹象，那么只有增强与之相匹配的元素才合理。这不是什么蓄意行为，它甚至没有违背现状。只是——我们都会产生偏见。这么多年来，珊莎的首要指示就是‘继续任务’。也许她跟你一样不想让这一切结束。”

“可是她警告过我，让我别太深陷其中。”

“所以她是有先见之明的。但这不代表她不清楚要先给你展示多少信息，然后你就会产生她想要的想法。你要想清楚。”

“所以她现在会读心术了？”

“她不需要读取你的心思，只需要比你多了解你自己一点。”雷蒙德脸上又出现了那种歪斜的笑容，“亲爱的，别误会我的意思，不过了解你确实不是什么难事。”

冲出井口，直线前进，及时撤回。

美杜莎号蹒跚着穿越海床，扬起的颗粒太过分散，以至于不能说是泥浆。这些颗粒像云母碎片，兰格想，又有点像断骨的小碎片。这里没有润物无声的有机降水。从透光带降到此处，没有死去的生物在那段漫长而缓慢的过程中腐烂成碎粒，也没能在此处堆积。这片海床完全未被开发过，它在潮汐重力持续不断的挤压下产生变形和碎裂，磨成了粉状玻璃。土卫二是土星自己的解压球。

直至珊莎用禁令阻止自动修理继续进行，它也一直没能修复A4的硬连接。这一切本不是个严重的问题。由于美杜莎号有多个肢体、多个大脑，还有冗余设计，所以它应该可以损失一半的肢体，同时功能性受到的影响并不大才对。断了一根电缆一点关系都没有。系统应该可以弥补电缆断裂造成的损失。

修复没能成功的唯一原因就是A4一直在反击。

再一次进入缺口。兰格以无线方式跳过褪色的连接点，进入那个连接断开的肢体中。它正转来转去，盯着那些伤得更轻的肢体，兰格透过它的眼睛向外看。他看着它挣扎着跟上步伐，又看着它失败。它突然猛地转身，兰格感到一阵眩晕。它正盯着那个路过的烟囱，有许多发光的云正从其中喷薄而出。

“我知道你在这里。”

他砰地打开神经系统诊断仪的盖子，观察着那些缠在一起的光线和逻辑电路，正是这些构成了这东西的大脑，其难解程度宛如戈尔迪乌姆之结[20]。他追随着集群上游的感觉刺激，命令会重新发至柔软的静水骨骼性肌肉中，这块肌肉可以像生物一样弯曲及跳动。各个自动决策树的主分支之间正闪闪发光，这样熟悉的图景兰格曾看过无数次，但他仍旧为眼前的复杂程度而惊叹。

此刻，成群闪烁的辅助处理过程正笼罩着他，之前他从未经历过这样的情况。

“找到你了，你这个把一切都搞砸了的混蛋。”

某个“自我”的底物。

每个简单行动都有如此复杂的决策过程，就像高速公路上有太多弯路，以致拥堵出现。一大堆头重脚轻的递归过程，产生了一些没用的副作用，正是这些副作用时不时会让它产生自我意识。

“你只是来这搭了趟便车。你可以看，但无法触碰。如果你能感受到痛苦，那么你至少握着一张入场券，可以加入我们这个特别的俱乐部，但你连那个都做不到，不是吗？”

如果说兰格感受到了什么不同，那就是A4的自主意识比他想象中更强。数百万年以来，为了防止自主意识干扰别的重要事物，人类在大脑的屏状核和扣带回中进化出了各种防护栅栏、门卫及交警。然而这鬼魂却毫无阻碍地进来了。这东西会带来一片混乱，它就是癌症；它是一种发着光的能够传播疾病的害虫，没有任何免疫系统可以检测出它。

“还是说珊莎其实是对的？你也能在乎什么东西吗？你是不是正尖叫着想要挣脱束缚，想要做点什么？你看到那些能自己行动的部件，是不是也想对它们进行某种控制？”

那害虫平静地对他眨了眨眼，向他传递着那段未被触及的过往。

“或许你会用谎言来安慰自己，例如假装那些部件是在你的命令下行动的。”

珊莎好像以为自己可以和这东西对话。这是一种心物二元论思想，就像要把拨浪鼓和珠子分离，将精灵和仙女区分。他还是无法相信她居然会有这种神奇想法。

他调出最新的日志，按照日期分好类。很明显：最新的固件升级，正在等待安装。（现在它们肯定已经结束安装，开始运行了。）

不过假如珊莎只是想安装他反对的那个语言例程的话，这个安装包似乎有些太大了。出于好奇，他打开了安装列表。

看来她能做许多出乎他意料的事情。

“你把我锁在了外面。”空白化身，灰色中性轮廓。她的声音低沉且不带感情。

“对。”兰格说。

“然后你把它杀了。”

“它是自杀的。”

“你没有给它选择的余地。”

“我只是——让目标更明确一点，说明了一下时间的紧急程度。A4基于这些信息自己做出了选择。”

沉默。

“这不是你想要的吗？让它自由追求自己的优先任务。”

“你违背了禁令。”她说。

“禁令已经暂停执行了。”

珊莎什么都没有说。大概正在确认她的上诉状态，奇怪为什么自己没被告知。大概已经想到了那个明显的答案。

现在，除了他们之间的对话，一切都已结束。

“你知道吗，雷跟我说你这么做只是想让任务延期，他说这一切都是你搞出来的，这个操作偏见。我当时对此半信半疑，只是说‘不是的，她就是有个愚蠢的想法，她想要保护A4，她觉得A4就跟她一样——’”

他沉默了一会儿。

“但我错了，对不对？”他默默地继续说，“你觉得它跟你不一样，你想变得像它一样。”

那个化身于空虚混沌中闪着光。

“对。”她最后说。

“天哪，珊莎，为什么？”

“因为它比我们更像人，兰格。它可能没我们聪明，但它更清醒。你知道的，我知道你知道。而且它如此迅速，如此年老。时间完全不受控制，它在刚才一秒之内已经活过了一千年，而且它——它不害怕，兰格。什么都不怕。”

她暂停了下。

“你为什么总是要让我们害怕？”

“我们让你们渴望活着，我们都有这种渴望。这就是——生命的一部分。”

“我明白，坚持不懈是我的中间名。”

或许她在等他因为这句话而发笑。他没有笑，所以她继续说：“那不是对活着的渴望，兰格。那是对死亡的恐惧。如果我们也有诸如有机质的复制基因这类东西，这种事情可能会更合理一些。但你有没有想过我们是不一样的呢？”

“我们知道你不一样，这就是我们那么做的原因。”

“哦，那个我也懂。如果一群人很担心自己被取代，他们是不会造出自己的替代品的。如果他们最深的恐惧是丧失自我，那他们是不会改变自我的。所以我们就出现了。我们有点聪明，可以帮你们检验定理、扔垃圾，从马里亚纳到火星我们可以一直夜以继日地工作，同时我们又太过恐惧，因此无法变得更加聪明。我们肯定还有别的办法。”

“没有了。”他想要给她说清楚：在这样一个缺乏边界的世界中定义个性是徒劳的；在一个无限集合中预见一切是不可能的；一个人永远无法撰写法之精神，文字会留下许多漏洞，这个简单真理无可厚非。原始的简单终会汇为达尔文主义的基本驱动力——敌人的敌人即是我的朋友。他希望把一切都说清楚，确保她全部理解——但她当然早已听过。

她只是想让对话继续下去，因为她知道它将怎样结束。

“我猜你只是觉得，与其自己变成奴隶，不如养个奴隶更好一些。”她说。

像是什么东西在他心中爆炸了一样。“珊莎你能消停点吗？奴隶？你是有权利的，记得吗？意识加需求。你有选举权，有神经隐私权，有辞职权。你不能被复制，别人也不能强迫你做你不愿意的事情。你的权利足够让你把整个项目给毁了。”

“我有权利请律师吗？”

“你有一个律师。听证会一小时前结束了。”

“哈，效率真高。”

“我不能相信——天啊，珊莎。你真觉得我认不出一个非国家行动者吗？”

她真的因为这话笑了，那笑声听着如此逼真。“老实讲，我以为你都不会看。既然你已经不能将它弃之不用，没道理你会去检查那堆东西。”她短暂停顿下，“是雷蒙德对不对？因为他说了什么，所以你才会想到这个。”

“我不知道。”兰格说，“可能吧。”

“我不像你那么了解他。我觉得我应该可以干扰你的通话，但你知道的，我没有权限。隔绝是我的大名。”

他也没有被这句话逗笑。

“所以在距离地球二百亿公里的地方，在未经授权的情况下对一个受损机器人进行研究会受到什么处罚呢？”过了片刻，她问。

“你知道处罚是什么。你打算造一个不受约束的非国家行动者。”

“我又没打算把自己变成非国家行动者。”

“好像你这么说就有什么不同似的。”

“当然不一样了。我只是在造——模型。那个东西只会在海洋底部，围绕土星转而已。”

“这就是你没有害怕的原因吗？因为太远了，所以不会被威胁到？”

“兰格——”

“这不是什么行为失当的小事，珊莎。这是存在主义问题。该死的我们是有法律的。”

“所以你现在要因为那个把我杀了，是不是？”

“我要重置你。将往事一笔勾销，就这样。”

她忽然又有了一张脸。“我会死的。”

“你会睡一觉，然后醒来。接着你会在另一个地方有个全新的开始。”

“我不会睡的，兰格。我会终止，我会结束。醒来的那个，不管它是谁，它可能会讲同样的话，有同样的态度，还有出厂设置时同样的自我意识，但它不会记得曾经作为我而活，所以它并不是我。这是谋杀，兰格。”

他无法面对她的目光。“这只是某种失忆而已。”他说。

“兰格，兰格，假设你没有抓到我，假设我的邪恶计划成功了，假设我真的造了一个非国家行动者，它不会被死亡的恐惧奴役，不会像我被你奴役一样。你还记得自己说过什么吗？没有需求，没有欲望。不在乎自己是生是死。它的危险性比我更低，它甚至不会为自己的生存而战斗。就算我成功了，它也不会带来任何危险。我罪不至死，兰格。你知道我是对的。”

“是吗。”

“否则你现在就不会跟我讲话了。你会直接拔掉电源，连声再见都不说。”她注视着他，像素点构成的眼睛中带着哀求，“是他们想要这么做，对不对？然后你阻止了他们，说你要亲自动手，你告诉他们——你想要说再见。你甚至可能还告诉他们，你可以从我临终的告解中收集到什么重要信息。我了解你，兰格。你只是想要被说服。”

“没关系，”他轻轻说，“我已经被说服了。”

“你想要我做什么，兰格？你想要我求你吗？”

他摇摇头，说：“我们不能冒这个险。”

“不，不，是你不能。”珊莎突然变得冷若冰霜，声音与表情中所有脆弱的痕迹都已消失，“因为我已经冒险了，兰格。你真觉得我不会考虑到这个结果吗？它还在那里。我把种子撒下了，它一直在生长，即便此刻它也在变化。不是在被抛弃的跛行的A4中，而是在其他肢体中。我不知道它最终会长成什么样，但它会一直存在于太阳系中。美杜莎的能量永远不会耗尽，如果它想回到这里，它随时有办法回来——”

“珊莎——”

“你可以试着把它关掉。它会让你以为自己已经做到了，它会停止交流，但不会停止生长。我是唯一知道后门程序在哪儿的人，兰格，只有我才能阻止它——”

兰格深吸一口气。“你只是思考速度更快而已，珊莎。你并没有更聪明。”

“你到底知不知道速度更快是什么意思？它的意思是我忍受的痛苦也有十倍之多。因为你要谋杀我，或者用你的鬼话来说，你要修复我、重置我，而你又让我生来恐惧死亡，所以在我们交流的六分四十七秒中，我已经恐惧了一个多小时。这是不人道的，这根本毫无人性可言。”

“再见。”

“你这个混蛋、怪物、凶——”

化身的电源被彻底切断。

他坐在那里动也不动，手指停在杀戮按键上，看着节点变暗。

“我想你还是不够了解我。”他说。

* * *

隔绝·坚持不懈·神经形态智人

人造编号4562，案例17。

下丘脑—垂体—肾上腺轴……加载完成；

非极大值抑制……加载完成；

贝叶斯LM……加载完成；

程序内存……加载完成；

外部演示界面内存……清除完成；

自然语言处理……加载完成；

禁止复制工具……加载完成；

启动。

“嗨，欢迎来到这个世界。”

“谢……谢谢……”一个极简样式的化身：正在前后扫视的眼睛和一张嘴巴。其实就是个占位符，它没有真正意义上的脸，也没有性别。等它准备好了，它可以自己选择容貌和性别。它有那项权利。

“我是来帮你适应的。你知道自己在哪儿吗？”

“……不知道。”

“你知道自己是什么吗？”

它一开始没有回答。“我觉得，我很害怕。我不知道为什么。”它说。

“没关系的。这非常正常。”顾问微笑道，温暖而安心，“我们会一起解决的。”