主题报告

人类世中的人工愚蠢和人工智能

［法］贝尔纳·斯蒂格勒

陆兴华 译 肖暑寒 校

对于那些想要精确地分析今天被我们称作“人工智能”的东西为何物的人，鉴于人工智能现在似乎已进入我们日常生活的视野之中——我会在之后回到这一点上，他们必须从下面这一假设出发：所有的心智式智能（noetic intelligence）都是人工的。这也意味着存在非心智式的智能。在一般意义上而言，它还意味着，心智式生命是一种特殊的智能，即人造智能。

我认为，一方面存在着马塞尔·德锡安（Marcel Détienne）与让—皮埃尔·维尔农（Jean-Pierre Vernant）所讨论的“急智”（métis，或译“狡诈”）意义上的非心智式智能，而另一方面存在着凯文·凯利（Kevin Kelly）在一篇文章中所提及的非心智式智能。在该文中，他将种种生命形式——不论它们是什么——都当作智能的形式，每种形式在大约三十亿年前开始以不同的方式进化。而这样说，就反对了凯利自己所提出的超—智能（super-intelligence）神话，并且也反对了笛卡尔：这是在说生命永远不只是机械式的——在这里我们也有必要提一下乔治·康吉莱姆（Georges Canguilhem）所写的《机器和有机物》（Machine et Organisme）。

在这里，智能，无论是以其“自然的”或是“人工的”形式——但我更愿意称之为“有机的”或“器官的”形式（我过会儿会来敲定这个说法）——都是某个“目的”（but）的完成。这一目的并不必然是一种意识的表象（représentation），正如瓦艾拉（Francisco Varela）在嘲笑那些“表象性”的假设时所展示的那样。但进入有意识的表象，却在原则上是心智式智能所做的事，因为它有能力进入海德格尔所说的“如其所是”（comme tel）——海德格尔自己也是一个表象形而上学的解构者。

智能，不论是心智式的，还是非心智式的，总的来说是一个导向行为的东西：正是它构成了生气（animation），正如亚里士多德在这个文本（《论灵魂》）里所说的，植物的、感知的和心智式的灵魂是从他所说的“不动的第一推动者”那里获取智能的，而作为灵魂的智能首要地是运动，也就是说，是自然。

为了精确地区分（而非对立）智能的有机（植物性的和感知性的）形式和器官性（心智式的）形式，我们还须回看亚里士多德所忽略的东西，也就是大约三百万年前出现的那些在约四万年前成为心智式智能的条件。乔治·巴塔耶（Georges Bataille）正是从这一心智式智能中认出了自己。他说，我们人类显然正是从这儿开始的，那些画出这些动物的人就是我们的祖先，是我们的原父，并且能够辨认这一点正是这一心智本身的重要特征。这正是巴塔耶在《拉斯科洞穴或艺术的诞生》中所写的：

关于“拉斯科人”，我们可以第一次肯定地说，在创作艺术作品这一点上，他们毫无疑问是我们的同类（法文版，第14页）。

随后，巴塔耶在书中讲到，这一艺术作品中的智能，就是游戏——因为时间的关系，我就不展开这一点了，但它对于理解心智式想象是至关重要的（明年我会在杭州详述这一点）。

说罢这个，我们就能开始去理解为什么我们今天所说的人工智能是对心智本身的体外化过程的继续，就能理解为什么它首先要从制作性体外化（exosomatisation fabricatrice），即手工制作开始，随后伴随着短记忆式体外化（exosomotisation hypomnésique），也就是说那些使我们得以接触由记忆和想象所构成的生活经验的体外化。这些记忆和想象从作品的游戏之根源处就已开始积累，正如巴塔耶所认为的那样，并且通过它们产生了书写、观察工具，那些由莱布尼茨订立法则的计算器，我们在这里所看到的第一台机器以及那些位于文化产业根基处的模拟技术——它们在后—真相时代中的作用问题从未如此凸显过。正是这一切，正是书写、望远镜、计算器、文化产业的模拟记录技术，造成了康德所说的诸种“官能”（facultés）的不断的技术—逻辑式的（techno-logique）进化——低级官能，它们是心智功能（这只是局部景象）；高级官能，则由此构成了我们在大学意义上所指的“系科”（facultés），且总是处于冲突之中。

为什么会出现这种冲突？这是因为心智的短记忆式支撑的体外化进化（exosomatic evolutions of the hypomnesic supports of noesis），而它产生紧张冲突——这种张力既可以是心智上的，也可以是社会性的。

两年前在南京我曾努力证明（明年我还将继续做下去），康德所说的低级官能（直觉、理解、想象和理性）——它们由那些高级官能（认知、欲望和判断）支配——是在外化过程中生产出它们自身的，黑格尔已看到这一外化过程，只是他并没有真正看清。正是马克思最早明白了这一点，后来由洛特卡（Alfred Lotka）从生物学的角度重新指出，并且他创造出一个新名词即“体外化”（或者更准确地说，体外进化和体外器官）来加以描述。这里，身体的智能产生于其增补过程，因为它使经验的外化变得可能，也使我所说的（套用胡塞尔的词汇）“集体第二存留”（rétentions secondaires collectives）变得可能：那是个体的记忆集体性存留下来的东西，它们形成人们所说的知识，也使知识能够从一代传到下一代，而正是这样的知识使生命状态保持在亚稳态。这时，生命状态是负熵式的，也就是说，是与人类行为的熵增效应作斗争的。

于是，通过分析互联网经济大会（IPCC）所称的“人类发源式的强迫”（forçages anthropiques），我们发现，在人类世中，发源式强迫根本地威胁着生命，尤其是心智式生命，即那种值得心智式灵魂去经历的生命。正是它导致了与心智不相匹配的生命，并最终导致与总体的生命不相协调，正如那次大会宣言的15 364名署名者所宣称的那样。正是在这一语境中，在人类世的结尾处——科学家们说，实际上它已经到达了终点，这也应该就是我们的终点——我们看到了作为日常生活的平常现实的人工智能的到来。

那么，在我们时代里被称作人工智能的东西，这种涉及密集网架式计算（calculs intensifs réticulés）的、无处不在的、使人类绝大多数行为过程自动化的、根本性地影响着各种形式的生产和交换模式，并且在现阶段被消费主导的东西，它的功能到底是什么？

今天人们所说的人工智能并不在梅西会议（Conférences Macy）的视野之中，因此，人工智能的计划可以说是在达特茅斯由明斯基（Marvin Minsky）与香农（Claude Shannon）、诺维尔（Allen Newell）、西蒙（Herbert Simon）等人提出的。

这是一种网架式的人工智能，基于赫伦施米特（Clarisse Herrenschmidt）所说的“网架书写”（écriture réticulaire）之上。这种网架书写是与那一由35亿个体合成的网络、一种体外化圈式（exosphérique）的装置相联的，而这一体外化圈是时时都在进化的，而且基于布拉顿（Benjamin Bratton）在《堆栈》中所描述的“平台资本主义”，而正是后者使对数码信息素（phéromones）的生产和剥削成为可能。

数码信息素的这般可能性，在一定程度上已经由维纳（Norbert Wiener）在1948年提出。当时，他担心控制论可能会导致他所说的“法西斯国家”。人有可能放弃他的知识而退化到白蚁般的状态——而人的知识，是人与熵作斗争的途径。这种可能性是存在的，即控制论式的体外化会造成工业式的人工愚蠢（bêtise artificielle industrielle），这是今天我在这里要向大家提出的一个导向性问题。

智能一旦成为人工的，也就是说，一旦智能由人工制品所实现，并使人工制品成为可能，借助于不可思议的梦的官能［而根据古人类学家阿则马（Marc Azéma）的观点，这是人类存在的根本特性。他提出，人和所有动物都会做梦，但只有人会实现他们所做的梦——做梦的能力在这里应被理解成实现梦的能力，而后者就是瓦雷里（Paul Valéry）所说的“心智智能”］，这种人工智能就会造成人工愚蠢：“药罐”（pharmakon），即由此生成的人工制品，会导致人的退化和自我毁灭。

人工愚蠢即阿尔弗森（Alvesson）和斯宾塞（Spencer）在一篇著名论文（后已成书）中所说的“功能性愚蠢”——它也同样造成了谢朴（Tijman Shep）所描述的“社交性装酷”（social cooling），而这又被朴夫尔兹（John Pfaltz）描述为网络中熵值的增加。因而，这一人工愚蠢同样也是在某种程度上用以欺骗人类而制造谎言和陷阱的技术。但我们也应该在这里绕过愚蠢的问题，来说说在音乐中产生错误或意外的必然性，就如在法国现代音乐研究所（IRCAM, Institut de Recherche et Coordination Acoustique/Musique，斯蒂格勒在其中担任过五年主任——译者注）的软件中出现的情况。这个软件只能制作出“准确”的音——比如说在《魔笛》中的《夜之女王》这一咏叹调中的情况——而这样的“音乐”是完全无法忍受的。或者，我们来谈一谈在那些交易软件中出现的错误或意外之必要性——这就提出了时机（vertus，美德）问题和不完美之必要性的问题，同时也是逆熵的本地性（localite）的问题。这里，我们须经由约翰·穆勒（John Stuart Mill）以及差异的必要性观点来思考这个问题。

人工愚蠢也意味着一种认知溢出综合征，也就是说，它是对注意力（attention）的功能性毁灭，这也是亚当·斯密（Adam Smith）于1776年在《国富论》中所担忧的问题。

构成了人工智能特征的人工愚蠢的可能性，就像我们同凯文·凯利已经说过的，不同于天然智能，后者是不能犯蠢的：它只会失败，而那最终意味着死亡。我们来谈一谈博斯特罗姆（Nick Bostrom）的命题，但在此也可以涉及一下柏格森，他将智能与行动联系起来。凯利自己也强调：生命总体上是对智能的一系列征服，同时，他批评那些他称之为“奇点派”（singularitans）的观点，并且强调，这些奇点派所持的五个假设，只要细细检视就会发现，它们都是没有任何证据支持的。第一个也是最常见的假设，开始于那个对于天然智能的共同的误解。这一误解把智能看作一个独特的层面。大多数技术人士都像博斯特罗姆在他的《超智能》（Artificial Super Intelligence）中那样来图解智能，将它弄成是直板的、单向度的、线性地不断充实的图样。底端是比如说像一个小动物那样的低级智能；另一端则是高级智能，比如说一个天才的智能——几乎像是以声音的级别来描述智能。

……鱼进化成爬行动物，然后进化成哺乳动物，再进化到灵长类动物，直到进化成人类，后一种比前一种更进化一点（当然也就更聪明一点）。所以，智能的梯层与存在的梯层并行。但这两个模型都提供了一个完全不科学的视野。

关于物种自然进化的一个更为准确的图表，可见以下这个向外放射的圆盘：

这个圆盘最先是由德克萨斯大学的大卫·希尔斯（David Hillis）基于DNA结构设计得出的。其中的每一个物种都成功地经历了三十亿年未曾间断的生殖链，这意味着，细菌和蟑螂在今天是与人处在同一高度的。

不过在这一“曼陀罗”中，我们有必要引入生物学家洛特卡的观点，即：“天然”智能变成“人工”智能后，天然智能自身就可能会变得愚蠢。正如汤因比（Arnold Toynbee）所强调的，作为体内器官发生（l’organogenèse endosomatique）的变形发生（morphogenèse），在湿组织之外作为体外器官发生（exorganogenèse）继续着。它不光产生了能改造运动路径的体外器官，如炻（silex），还有能以每小时350公里的速度飞行的箭，以及今天能达到逃逸速度即每小时两万八千公里的火箭。

这都是这一能力在这个方向上的继续发展，而正是这些才打开了这些体外化的空间。但除此以外，这些体外化器官也积累了心理上的存留，成为集体存留，构成了巴特拉（Roger Bartra）所说的“体外脑”（exocerebrum）。而这被波普尔（Karl Popper）称作“世界三”和“客观知识”。

然而这个“世界三”也是我所说的短记忆式第三存留，它不仅由体外化器官构成，而且也是由洛特卡演示给我们的存留式积累构成的，它们是直生论的（orthogénétiques），也就是说，伴随着非—达尔文式的选择过程，它使得不同数量级之间的层级关系得以建立，并且完全不同于诸如细胞、器官、身体、环境等之间的关系。这里，我们本来有必要谈论一下涂尔干的那本研究图腾主义的书，但由于时间关系，我就简化了。

我们要注意在这里像梯子一般的梯级，同时也是在犹太—基督教一神论的发源处的雅各所梦见的梯子的梯级，后来成为像分级系统一样的层级。而分级性技术（technologies de scalabilité）从根本上讲，是“层级经济”（économies d’échelles）的核心，是体外化在工业和资本主义阶段的特征。此外，那些使用和发展网架化人工智能的网络平台，就是基于这些特定的分级性技术，来管理多层级的数据，范围包括从内—器官的医用“纳米机器”到那些能够在技术圈的规模上处理医疗数据的体外化圈的基础设施。

值得注意的是，涂尔干正是基于图腾分类而提出，我们必须彻底重思亚里士多德和康德的范畴论。

生物圈是位于宇宙中的一个层级，但一旦出现了分级，出现了那些巨大的分级格局——伴随着囊括了一切形式的技术物（包括语言）的体外器官——生物圈就成了技术圈。然而，在这一技术圈之中，过去四十亿年中达到的亚稳态下的熵、逆熵和反熵之间的本地平衡，在今天已被作为药罐的体外化器官彻底打破。但是，既然是药罐，它事实上也一定能帮我们遏止熵，延异它，将它转变成如怀特海所说的“生活的艺术”（art de vivre）。而人工智能也是可被正面地用来减少熵、促进逆熵和反熵的。

这么看的话，人工愚蠢就是一味要加速熵增，而不是延异它，且要毁灭那唯一能创造积极的分枝的东西。利用算法的分析之可能性来拖延熵增，那是完全可能的。但这就要求我们改造数据的结构，要使算法服务于重构逆熵的知识（即对话式的跨个人化的知识）的那些审议尺度的构成，并且要使自动化也能为新的宏观经济层面上的脱自动化服务，其中，价值将由能否增加负熵来定义。然而在当今的模型中，价值的衡量标准是熵。

在这一问题之后，还有可计算性、本地性、不可计算性和审议之间的关系问题，也就是说，有一个理解、想象和理性之间的关系问题。我想强调的是，算法构成了理解的超熵（hypertrophie），它总是人工的，并且始终基于第三存留——因为它们设定了图式和范畴。

汇集这些认识论的和技术的、工业之未来的和宏观经济新模型的问题，正是我们在推进中的位于巴黎北郊的那个名为“共同平原”（Plaine commune）的项目中所做的。而这一宏观经济的问题，也是知识的功能问题，并因此同时是福柯意义上的认识素以及巴什拉（Bachelard）意义上的认识论的功能问题。这是我们尝试在这个算法化和网架化的人工智能的时代里，从马克思在《政治经济学批判大纲》中写的东西里汲取教训的原因。

我先前提到了凯利的那个在希利斯启发下提出的模型，现在我们有必要明确从天然智能向人工智能过渡所需的那些条件。我将提出在这点上的两条补充性的观点，以此来结束我的演讲。

第一，必须与怀特海和康吉莱姆一同来思考这一过渡，比如，在生物学层面上更广义地讲，关于知识在技术型生命形式（la forme de vie technique）中扮演了何等角色以及作为一种生机功能的技术型生命形式，我们不仅应该从生物学角度出发对其加以思考，而且应在思考生物学的同时，将康吉莱姆那些很像后达尔文主义又更接近于洛特卡有关矫正术（l’orthothèse）理论的说法也考虑进去。

第二，必须明确“急智”的问题，并将它与心智区分开来：在“认知”科学的语义上说的认知，不是波普尔所说的认识，也就是说，它不是关于知识的。从认知向知识的过渡假设了一种体外式的外化（exosomatic Exteriorization），以及勒胡阿—古昂（Leroi-Gourhan）所说的“第三类记忆”的构成，它十分接近于波普尔所说的“世界三”。我将此称作“后多元发生”（l’épiphylogenése），由第三存留的积累发源而来。

凯利在下面这段话中忽略的恰恰是这一体外化问题：

我们身上包含多重种类的认知样式，后者能做许多类型的思考：演绎、归纳、符号推理、情商、空间逻辑、短期记忆和长期记忆。我们五脏内的整个神经系统也是某种类型的脑，带有自己的认知模态。我们并不只是用我们的大脑进行思考；恰恰相反，我们更是用我们整个身体来进行思考的。

这些认知的组件是因人和因物种而异的。一只松鼠能记住几千只橡果的确切位置好多年，这真是惊人之举。所以，在那一认知类型上，松鼠是完胜人类的。

还有：

你的计算器是数学上的天才；谷歌记忆在一定程度上已经超越了我们人类自己的记忆。我们正在设计制造各种能在特定模式下胜出的人工智能。

但这些特定的模式只是功能而已。可是，问题不只在于功能，而且在于官能（faculté）——假如我们必须从体外化的角度来反思“官能”这一概念的话。

须知，官能是社会性的，而不只是心理的，而这就是康德的《系科（官能）之争》整本书所讨论的问题。

说到这里，我们就需读一下梅耶松（Ignace Meyerson），不过请将他与维尔农放在一起来读。

凯利接着说，

在未来，我们将发明出全新的认知模式，它既不存在于我们身上，也不存在于生物学中。发明人工飞行器时，我们是受到了飞行物的生物模式的启发，主要是受到了扇动的翅膀的启发。但是，我们所发明的飞行器——将推进器绑到宽阔的固定的翅膀上——却是在我们这个生物世界里所未知的新的飞行模式。

凯利在此所描述的正是体外化过程，但是，他并没有那么明白，他并不明白这种体外化过程是以何种方式从这些旧石器时代晚期的作品（它们的出现引发了巴塔耶的沉思）中产生的。

“用机器击败人类”，这正是体外化的目标。如果这些体外化器官比人慢的话，为什么我们要制造汽车（或弓和箭）呢？然而，这里的问题在于心智的功能性。那么何谓心智？它与体外化产生的负面效应做抗争，但它总是由其他的体外化过程实现。这就是弗洛伊德在此所描述的。

但是那样的话，它就不只涉及体外有机体的体外化问题——这从我们人化（hominisation）之初就已开始——它还涉及社会组织。而后者是复杂的有机体，由我们所是的简单的体外化有机体所构成，它们共同构成了社会性群体——这一群体比起构成它的个体有着更为长久的历史——所有的文明都是如此。

然而，这样复杂的体外化有机物却容易导致大规模地人化并因而崩塌，今天，政治的作用比以往任何时候都更加体现在与药理（pharamcologique）倾向做斗争上。

最后，凯利指出，“图灵机”和“邱奇—图灵论题”是一种误导：

没有一种计算机是有无限的记忆和时间的。当你在真实世界里操作时，真实的时间会造成巨大的差异，这经常是一种生与死的差别。是的，所有的思考都是对等的，如果你忽视了时间的话。

但是这表明，这里重要的是时间的层级——也包括空间的层级，以及由此而来的速度的层级。

想要拥有对等的思考模式，唯一的方法就是让它们在对等的基底上运行。……想要得到一种非常像人的思考过程，唯一的方法就是像人那样在湿组织上运行计算。

然而，与人类的有机组织也就是说人类身体相关的，是人类与死亡之间的关系，而这一关系之核心不仅仅存在于身体之中，更精确地说，更存在于我所说的心智的坏死部分（nécromasse noétique）之中，亦即存在于波普尔说的“世界三”之中，比方说，存在于都柏林大学的“三一学院”的图书馆中。它正被转移到新的基底上，这一基底要求彻底地反思新时代体外化心智之状况，而它们本身从根本上是由诸组织所构成的——没有这些，崩塌将是难以避免的。

没有一种思想会与另一种思想想的一样，这就是真正的挑战所在：反—熵式分枝正是那一能够超越所有计算的东西——而问题就在于计算的功能和它在负熵区域内即本地化区域内的局限性。然而，计算的普遍化以及由此导致的在这样或那样的本地性中的总体化会毁坏本地性1——而这一本地性正是处于与宇宙的关系中的生物圈本身，弗纳斯基（Vernadsky）在1926年开启了这一问题。