第二讲　人工智能可不能太指望逻辑学

一　从一起空难说起

上一讲我们通过对西方哲学传统中的唯理派与经验派的复习，已经大致触及了当代AI研究中的两个路数：符号AI与联结主义。下面，我们将以更多的细节来呈现主流符号AI进路与主流联结主义进路中的哲学迷思。本讲将主要谈符号AI，下一讲则会讨论联结主义及其直接的技术继承者：深度学习。

既然符号AI在历史渊源上与唯理派相关，此派哲学家又都认为逻辑与数学在知识构建中起了主导作用，很多人或许便会觉得符号AI研究的任务就是将数学与逻辑知识予以程序化，并让机器执行。然而，其实这话既对又不对。说它对，乃是因为任何工程学的研究都需要数学与逻辑的头脑。说它不对，乃是因为数学与逻辑在AI逻辑中扮演的是“器”的角色，而非“道”的角色。换言之，你得有好的AI构架，再去找合适的形式化工具去实现之，而不能被形式化工具所绑架，为了证明既有的形式化工具的普遍有效性，而反过来把AI视为其应用场景。否则，形式化工具的某些本质性缺陷就会在特定的应用产品中被放大，并在某些机缘不凑巧的情况下造成重大事故。譬如如下空难事故：

2019年3月10日，埃塞俄比亚航空ET302航班从亚的斯亚贝巴飞往内罗毕，起飞后6分钟飞机失踪，随后在亚的斯亚贝巴附近发现残骸，机上无人生还。那么，这起事故到底是怎么发生的呢？这就与出事飞机的机载AI系统有关。

出事飞机的机型乃是波音737MAX8，属于老旧的波音737型飞机的一款改装产品。该改型与原始版本的波音737之间的差别在于：本来波音737的机身俯仰姿态是由飞行员手动加以控制的，而这款新型号的机身俯仰姿态却是由机载AI系统来自动控制的，而且，一旦机载AI系统出现了故障，飞行员要对飞机进行人工干预，还非常不容易（具体而言，设计师将机器控制转化为人力控制的转换开关，安置到了仪表盘上一个非常不起眼的地方，飞行员在匆忙之间是很难找到它的）。而倒霉的是，那天ET302航班恰恰就遇到了机载AI系统的工作故障，于是飞机便开始莫名其妙向着地面俯冲，而飞行员手动调整飞机姿态又屡屡失败，由此造成惨祸。

那么，这起惨祸与我们这里所说的符号AI到底有什么关系呢？其联系就在于：波音737MAX8的机载AI姿态调整系统，就是按照符号AI的工作原理工作的。具体而言，其工作流程是这样的：

第一步：机载的攻角传感器（即机头处的一个用来探测机身俯仰姿态的小装置）向控制系统给出数据，而系统则根据此数据决定飞机飞行姿态是仰角过大还是过小，还是负值（顺便说一句，系统默认水平姿态为正常状态）。

第二步：若传感器给出的数据表明机头过于上扬，则系统自动将机头压低；反之则提高机头，直到传感器给出的数据表明飞机处在水平姿态为止。

这个程序看似简洁明了，却忽略了一个根本问题：如果攻角传感器本身坏了，因此给控制系统输入了错误的数据，系统又该怎么办呢？很不幸，这么一个简单的问题却被波音737MAX8给忽略了，而在出事的那天，恰恰是由于攻角传感器的故障，才导致系统得到的数据失真，最终酿成了悲剧。

这起事故带给我们的教训是什么呢？一句话，符号AI系统之所以会造成此类巨祸，乃是因为它只能根据一些给定的经验数据进行机械的逻辑推演，而不能灵活地根据环境中的变化去自行判断：到底哪些经验数据本身就是不可靠的，因此是不能作为推理的前提而被接受的呢？换言之，符号AI系统一般已经预设设计者预估到了外部环境中的一切参数变化，尽管设计师也是人，无法真正预估到所有可能的偶发状态。这也就是说，这样的系统无法在真实外部环境出现设计师所无法预料的变化时自行给出调整。

而在我看来，符号AI的这个错误，在相当程度上应当由近代唯理派哲学在当代的精神继承者——分析哲学——所承担。这主要是因为，符号AI的基本技术工具——现代数理逻辑——就是由分析哲学家在20世纪初予以锻造的（至于它被计算机工程师们所习得，乃是更晚时候发生的事情）；同时，对于形式逻辑的重要性的强调，又在分析哲学运动中扮演了不可忽略的角色。所以，对于AI中所运用的形式逻辑方法的批判，是很难与对于分析哲学所推崇的“哲学逻辑”的批判相分割的。且看下节对这一问题的详细分析。