前言

是谦逊地生存，还是傲慢地死去

2014年春天，我把汽车停在临近斯坦福大学高尔夫球场的一家小咖啡馆前。当我从车里出来时，一位女士正将她的特斯拉电动汽车停进我旁边的车位。她下了汽车，把自己的高尔夫球车拿了出来，然后径直走向球场。这时，那辆球车就跟在她身后，请注意，是车“自己”跟着她前进。我有点儿吃惊，但当我疯狂地在谷歌上搜索“机器人高尔夫球车”时，却发现这种“小家伙”并没有什么新奇之处。这款名叫CaddyTrek的机器人高尔夫球车的零售价是1795美元，而它不过是出现在硅谷高尔夫球场里众多奢侈物件中的其中一个而已。

机器人在我们的生活中已不稀奇。便宜的传感器、强大的电脑和人工智能软件能确保这些机器人变得更加自主。它们将帮助我们，也将取代我们。它们会像改变战争方式一样，改变医疗保健和老年人护理的现状。无论是在文学作品还是在影视作品中，我们早已对机器人司空见惯了。但是，我们远没有为这一孕育之中的新世界做好准备。

撰写本书的想法要追溯到1999—2001年，当时我正在进行一系列采访，最终这些采访汇成了《睡鼠说：20世纪60年代的反文化如何影响个人计算机产业》（What the Dormouse Said: How the Sixties Counterculture Shaped the Personal Computer Industry）一书。我最初的研究是“反自传”（anti-autobiography）的一个例子。20世纪五六十年代，我在帕洛阿尔托（Palo Alto）附近长大，这里后来变成了硅谷的核心地带，但当一系列计算机和通信技术组合起来，形成个人计算和现代互联网的基础时，我却搬走了。不过，我回来得很及时，见证了“将会席卷整个世界的计算时代的兴起”，它所到之处，一切都被改变了。几年以后，在进行睡鼠项目研究的时候，我发现了与早期的互动计算机系统设计者们的工作完全不同的内容。在信息时代刚刚揭开序幕的几年里，两位研究人员开始独立开发未来的计算形式，他们建立的实验室离斯坦福大学校园不算很远。

在本书中，我探索了科学家、工程师和黑客们研究的“如何深化人与计算机间的联系”这一问题。在一些案例中我发现，设计师们坚持认为人工智能和“智能增强”（intelligence augmentation, IA）之间存在互相矛盾的关系。通常，这最后会被归结为简单的经济学问题。现在，对这种性能远超50年前早期工业机器人的新机器人的需求正在不断上升，甚至在一些早已高度自动化的行业，比如农业中，一大批新型“农业机器人”正在驾驶拖拉机或收割机作业，从空中监管并提高农业生产率。

关于前面提到的悖论，研究人员还有许多深入的思考。以埃里克·霍维茨（Eric Horvitz）为例，他是微软人工智能项目的研究人员、医学博士，也是美国人工智能协会（AAAI）的前主席，几十年来一直致力于研究如何拓展人类的能力。他设计出了一些精密的机器人，它们可以充当办公室秘书，完成诸如追踪日程安排、招待访客的任务，并可以管理终端和排除干扰。他制造的机器人在增强人类的同时也在取代人类。

另外，生于德国的塞巴斯蒂安·特龙（Sebastian Thrun）是一位人工智能研究人员和机器人专家（同时也是在线教育公司Udacity的联合创始人），他们都在打造一个将充满自动化机器的世界。作为谷歌无人驾驶汽车项目的创始人，特龙主导了无人驾驶汽车的设计，这项设计可能会在未来的某天取代数百万人类驾驶员——也许只有那些被拯救的生命和被避免的伤害才能证明这个项目的价值。

本书的主题是辩证地看待这些设计者的工作。他们制造出的系统既可以让人类变得更强大，也有可能取代人类。安迪·鲁宾（Andy Rubin）和汤姆·格鲁伯（Tom Gruber）的理论就体现出了最清晰的对比。鲁宾是谷歌机器人帝国最初的架构师，格鲁伯则是苹果Siri智能助手的主要设计师，他们都是硅谷最优秀、最耀眼的明星，他们的工作都建立在前人成果的基础之上：鲁宾模仿了约翰·麦卡锡，格鲁伯则追随了道格拉斯·恩格尔巴特——或取代人类，或让人类变得更强大。

今天，机器人学和人工智能软件都在不断唤起人们对个人计算时代早期的回忆。正如业余爱好者们缔造了个人计算机产业，人工智能设计师和机器人学家对技术进步、新产品和它们身后的科技公司都抱有极大的热情。与此同时，多数软件设计师和机器人工程师在被问到自己的发明会带来什么潜在影响时都会感到不快，只能频繁地以幽默来转移话题，化解尴尬，但是，问题仍然是必要的。机器人发展中可没有“盲眼钟表匠”（blind watchmaker）。无论是增强还是自动化，都是由一个个人类设计师作出的设计决定。

尽管结果本身很是微妙，不容易分出黑白两面，但将一组人当作英雄、另一组人当成反派角色还是很轻松的。

目前，美国正处于一场关于人工智能和机器人学的重要性以及它们对就业、生活质量影响的崭新讨论之中。我们如今进入了一个很奇怪的时代——办公自动化已经开始动摇白领们的工作，就像20世纪50年代工人被机器所取代时一样残忍。“大自动化之争”（great automation debate）在50年后回归，这与《罗生门》（Rashomon）中的某些场景如出一辙：所有人都看到了相同的故事，但每个人都以利己的方式进行了不同的解读。尽管有关计算机化造成的可怕影响的讨论甚嚣尘上，进入办公室工作的美国人数量仍然在增加。对来自美国劳工统计局的同一份数据进行分析后，分析师们作出了两个截然相反的预测：一个是工作的终结，另一个是新兴劳动力的复兴。无论劳动力是正在消亡还是转变之中，很明显，新到来的自动化时代正在对社会产生深远的影响。尽管有大量的相关消息，但是否有人真正掌握了科技社会的前进方向，我们仍不得而知。

尽管很少有人见过20世纪五六十年代那些笨重的大型机，但仍有一种流行观点认为，这些机器显露出了某种不祥的、不受人类控制的迹象。随后，在70年代个人计算时代到来后，计算机变成了某种更为友善的存在——因为人们可以触摸到这些计算机，便开始觉得它们处于自己的控制之下。如今，物联网正在兴起，计算机开始再次“消失”，这次，它们开始融入人们周遭的一切，看起来就像拥有了魔法一样——现在，家里的烟雾探测器开始讲话，而且可以听得懂指令。我们的手机、音乐播放器和平板电脑都比几十年以前的超级计算机拥有更强的计算能力。

随着“无处不在的计算”时代的到来，我们已经进入一个崭新的智能机器时代。在未来几年内，人工智能和机器人给世界带来的影响将远远超过个人计算和互联网在过去30年间已经对世界造成的改变。汽车可以无人驾驶，机器人可以完成快递员的工作，当然，还有医生和律师的。新时代为伟大的物理和计算力量带来了希望，但它也使半个多世纪前曾被提出的问题得以重构：我们还能控制这些系统吗，或者，它们会控制我们吗？

乔治·奥威尔（George Orwell）对这个问题进行了充分论证。在《1984》一书中，奥威尔描绘了一个监视无处不在的国家，但他也写到，这种国家控制通过缩减人类的口语和书面语、增加表达的难度，进而约束社会对不同思想的接纳。他虚构出一种名为“新语”（Newspeak）的语言，这种语言可以有效地限制思想和自我表现。

看看互联网为我们提供的数以百万计的频道，乍看之下，今天的我们或许离奥威尔描述的噩梦还有十万八千里，但越来越多的案例表明，智能机器正在为我们作出决策。如果这些系统只是提供建议，我们很难将其称为奥威尔提到的“控制”，但是，大数据的世界已经使互联网变得与10年前大相径庭。互联网延伸了计算所及之处，并改变了我们的文化。新的“奥威尔社会”呈现出一种更为柔性的控制。互联网提供了一些过去无法匹敌的新型自由，与此同时，也矛盾地让控制和监管得以延伸，这已远远超出了奥威尔最初理解的范畴。每一个足迹、每一句话语都被记录并被收集，完成这一工作的不是“老大哥”，就是一些正在成长的“小大哥”。互联网已经成为一项与文化的方方面面有密切接触的技术。今天，智能手机、笔记本电脑和台式机能听懂我们说话，完成我们发出的指令，摄像机或许也能通过它们的屏幕友好地凝视我们。即将来到的物联网时代正在将不显眼的、永远在线的、（可能）乐于助人的桌面机器人带入千家万户，就像亚马逊的语音助手Echo和辛西娅·布雷齐尔（Cynthia Braezeal）的Jibo。

世界会像20世纪60年代的诗人理查德·布劳提根（Richard Brautigan）所描述的“慈爱机器”（machines of loving grace）一样成为“一个自由的世界”（a free world）吗？这里的“free”指的是“言论自由”（freedom of speech）还是“免费啤酒”（free beer）呢？在一个充满智能机器的世界里，回答这些问题的最好方法就是理解那些正在创造这些系统的人们的价值观。

在硅谷，乐观的技术专家很乐意相信“创新”和“摩尔定律”这对双生力量足以说明所有科技进步的原因。很少有人能解释为什么某一项技术打败了其他技术、为什么某一项技术会崛起。这一观点是社会科学家提到的“技术的社会建构”（social construction of technology）——他们认为是我们创造了这些工具，而非相反。

我们已经有了数百年使用机器取代体力劳动的经验，但是，取代白领工人和脑力劳动者的智能机器还是新现象。比起仅仅取代人类，信息技术还正在使某些体验民主化，这不仅是因为使用个人计算机让我们不再需要雇用秘书。例如，互联网和网络已经极大地削减了新闻业的成本，不仅颠覆了新闻产业，还在根本上转变了收集、报道新闻的流程。类似的技术还有音高修正技术，它已经可以让没有受过训练的人唱出美妙的歌曲，同时，一大批计算机化的音乐系统让所有人都能成为作曲家和音乐家。在未来，这些系统将被如何设计，预示着要到来的是一场伟大的复兴还是更加深邃的黑暗——在人们如今生活的世界里，人类所有的技能都要通过机器来传承。麦卡锡和恩格尔巴特的研究定义了一个新时代，在那里，数字计算机将像工业革命一样深刻地改变经济和社会。

最近，一些实验为我们在理解机器对未来工作产生的影响方面提供了值得深思的事例（这些实验在世界上最贫困的地区进行，保证了当地居民的基本收入）。这些实验的结果令人震惊，因为它们与“经济安全削弱了人们的工作意愿”这一主流观点相左。2013年，在印度一个贫困村庄进行的一项实验保证了当地居民的基本需求，却得到了相反的效果。这些贫困的人们并没有安于自己得到的政府补贴，相反，他们变得更加负责、更有生产力。日后，我们很有可能有机会在第一世界进行一次类似的实验。基本收入的理念已经成为欧洲国家必谈的政治议题。1969年，尼克松政府首先以“负所得税”的形式提出这一概念，目前，它尚未被美国政坛接受，但如果技术性实验变得日益普遍，这种局面将会发生改变。

如果未来的产业不再需要劳动力，将会发生什么呢？如果仓库管理员、废品收集员、医生、律师和记者都被技术取代，又会发生什么呢？当然，我们无法预知这样的未来，但是我猜想，社会也许会在未来发现人类并非生来就需要工作，或是会发现能创造价值的类似方式。新型经济将创造我们今天无法理解的工作岗位。科幻小说作家当然已经预见了这种未来。读读约翰·巴尔内斯（John Barnes）的《风暴之母》（Mother of Storms）或者查理·斯特罗斯（Charlie Stross）的《渐快》（Accelerando），都是了解未来经济可能模式的不错选择。

一个简单的答案是，人类的创造力是无限的，如果我们的基本需求被机器人和人工智能满足，那么我们将找出娱乐、教育和照料他人的新方式。这些答案或许很笼统，但这些问题正变得日益尖锐，即智能机器是会像盟友一样与我们互动、照料我们，还是会奴役我们？

在本书中，我将介绍不同的计算机科学家、黑客、机器人专家和神经科学家。他们都拥有相同的感觉，认为我们正在靠近一个感染点，在那里，人类将生活在机器的世界中，这些机器可以模仿人，某些能力甚至会超越人。他们对人类在这个新世界中的地位有着各种各样的感受。

21世纪前50年内，社会将作出艰难的决策，允许这些智能机器拥有成为我们的仆人、伙伴或主人的潜力。在20世纪中叶计算机时代的开端，诺伯特·维纳曾对自动化的一种可能性提出警示：“我们可以谦逊地在机器的帮助下过上好日子，也可以傲慢地死去。”

现在看来，这不失为一次中肯的警告。