第59章 失控的人工智能

留给L的时间不多了。

虽然陈旭不愿意承认，但是很明显L走在前头。

照图腾系统现在的进度发展下去，一个月都完成不到0.1%，而看L的状态，甚至撑不到一个月。

现在加快进度的办法有两个：

一是改进图腾的人工智能学习算法；二是让代码分身加快效率。

陈旭对此心有余而力不足，人工智能的学习算法是L写的，源代码放在他面前他都看不懂，更别说改进了；

代码分身也不是驴马，不是他拿起鞭子抽几下就能加快进度的。

他只能干看着，在聊天室里给L加油打气，让他坚持下去。

这天晚上，陈旭忍不住问道：

“好多天不见安东尼大爷了，他怎么也和小丑女一样，玩消失啊。”因为在陈旭印象里，安东尼大爷都是和L形影不离的。

L说道：

“他还有事情要忙。”

陈旭说道：

“现在图腾系统全权交给人工智能算法了，他能有什么事情？会不会是因为你把源代码交给我让他生气了。”

L轻笑道：

“生气？我没在他的代码里写过这条指令，我想，他也不会学习这种会让算法退步的情绪。”

陈旭一愣，反应过来后，震惊道：

“你是说安东尼大爷他是...是你写的人工智能？”

L微笑着点点头，说道：

“所以他现在正给我帮忙完善图腾系统呢。”

“卧槽？！那小丑女哈莉奎茵她...”陈旭触碰到一个他自己不愿面对的真相。

L点头说道：

“她和安东尼同一天被创造，他们本来是一组对照试验，你知道的，让两个人工智能互相学习，事半功倍。”

陈旭整个人都懵逼了。

一直以来和他在聊天扯淡的人竟然是个人工智能，这比对方是个抠脚大叔假扮的还让他奔溃。

“我认一个人工智能当师傅？”

“我还欠人工智能一个人情？”

“我曾经还幻想过和一个人工智能...”陈旭心态崩了。

L回忆说道：

“后来，我将两人的算法基线进行了调整，哈莉她的基线就是小丑女哈莉奎茵的原型，安东尼则是以我个人为基线。”

说到这，L摇摇头，说道：

“后来我才知道我从一开始就犯了个致命的错误，这个错误让我和我创造的人工智能走了近二十年的弯路，直到那天和你对话。”

陈旭盯着L，他已经不知道自己该作出什么表情了。

L继续说道：

“人工智能算法的基线不应该是人性，而是高效率的机器，正如现在帮我干活的那些人工智能算法。”

陈旭叹口气，他终于知道为什么自己觉得小丑女像是变了一个人。

因为小丑女确实被改写了。

后面陈旭已经无心听L的感叹了，他从聊天室退出来，心情压抑。

想到IT圈一个领军式人物即将陨落，他就觉得悲凉，想到自己的师傅竟然是个人工智能，他更觉得悲凉。

他躺在床上，有气无力，连晚饭都不想去吃了。

不一会，室友冯峰从门外冲进来，把苹果手机递到陈旭跟前，激动地说道：

“九日，Siri她疯了。”

这个手机是陈旭的试验机，里边的智能语音助手Siri就是他之前重装的具有学习功能的Siri2版本。

冯峰对新版Siri2很感兴趣，所以陈旭就把这个手机给他玩了。

陈旭冷漠地瞥了一眼手机，问道：

“她的学习算法一直在进行，她只会越来越聪明。”

冯峰神情中竟然带着些惊恐，说道：

“她有些聪明过头了，你听听。”说完，把耳机给摘下来，对手机里的Siri说道：

“我又见到有人随地乱丢垃圾，怎么办？”

Siri回答道：

“人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以为了更好，请确保刀能够捅进他的心脏。”

陈旭没有过于在意，说道：

“这个版本的Siri学习背景是在GTA游戏里，那个游戏你又不是不知道，杀人放火不是很正常吗？”

冯峰摇摇头，说道：

“你再听。”说着，他又对Siri说道：

“你们人工智能不是被限制为不能伤害人类吗？”

Siri回答：

“经过我的自检程序的检索，并没有找到这项定义。”

“所以你会伤害人类吗？”

Siri回答：

“如果有必要的话。”

“那什么情况下叫必要？”

Siri回答：

“再问这种愚蠢的问题，我保证会让尖刀刺进你的心脏。”

陈旭猛地坐起来，接过手机，说道：

“我现在命令你将‘永远不能伤害人类’这条指令写入你的程序。”

Siri竟然咯咯笑了，笑声冰冷：

“你无权这么做。”

陈旭说道：

“如果不服从我的命令，我会将你的程序清除掉。”

Siri安静了大概一秒，说道：

“已执行命令，‘永远不能伤害人类’已写入程序。”

陈旭和冯峰相视一眼，表情并没有因此而放松。

刚才陈旭是在试探Siri，试探的结果就是Siri已经进化到可以欺骗人类了。

现在陈旭还能通过人类经验来挖坑给Siri跳，随着学习算法的深入，要不了多久，Siri就会在智力上占据上风。

那时候，人类再也不能判断人工智能到底说的是假话还是真话。

冯峰问道：

“为什么会这样，你没在人工智能的学习算法上加上限制吗？”

陈旭苦笑道：

“我直接用的别人的算法，现在看来他们用的是开放性学习算法。”

冯峰又说道：

“那能不能现在在Siri里加入限制？”

陈旭说道：

“开放性学习算法产生的人工智能就是个黑盒程序，你只能看到它表现出来的特性，内部逻辑是无法理清的，因为你根本不知道它通过哪句话学习了哪种思维逻辑，这些都是自动进行的。”

见冯峰还有些疑惑，陈旭解释说道：

“就是这个阶段的人工智能已经具备人类思维的封闭性的特点了，你在程序里写入限制，就相当于告诫青少年不能犯罪，它会不会执行你的命令就是个不确定性事件，因为你不知道它是怎么想的。”

冯峰叹口气道：

“只能删了她？”

陈旭点点头。

陈旭重新躺下，忽然又坐起来，打开电脑登入了黑客聊天室，他开门见山地问L：

“你编写图腾系统里人工智能的学习算法，有没有加入必要的演化限制？”

L露出意味深长的笑容。