危险游戏

启动普罗米修斯之后，除了在人工智能研究上取得突破之外，欧米茄团队最近还热衷于用它来赚钱：赚得越快越好。从本质上来说，整个数字经济的红利都是唾手可得的，但从哪里开始比较好呢？是开发计算机游戏，还是做音乐、电影或者软件？是写书、写文章，还是炒股，或者捣鼓和贩卖新发明？简单来说，这个问题归根结底是如何才能实现投资回报率的最大化，但一般的投资策略在欧米茄团队面前实属小巫见大巫：在通常情况下，如果年均回报率能达到9%，投资者就会很满意了；然而，欧米茄团队在MTurk上的投资达到了每小时9%的回报率，平均每天能赚到8倍多的钱。那么，他们的下一个目标是什么呢？

欧米茄团队的第一个想法是去股票市场大捞一笔，毕竟，许多对冲基金都在这上面砸了重金，而欧米茄团队中的几乎每个人都曾在人生中的某一时刻，拒绝过为对冲基金开发人工智能系统的高薪工作。你可能还记得，这也正是电影《超验骇客》（Transcendence）中的人工智能赚得第一桶金的方法。但是，前些年的一场股市崩盘促使政府对金融衍生品出台了一些规范措施，限制了他们的选择范围。很快，欧米茄团队就意识到，即便他们能够获得远高于其他投资者的回报，但这点利润比起销售自家的产品来说还是相差甚远。毕竟，当全世界第一个超级智能都在为你工作时，你显然最好投资自家的产品，而不是寄希望于别人家的。当然，例外也是可能存在的，比如，你可以用普罗米修斯超人的黑客技能来获取内幕消息，然后购买那些即将上涨的股票的看涨期权。但欧米茄团队认为，这可能会引来不必要的注意，因此不值得这么做。

于是，欧米茄团队将重点转向了那些可以研发和销售的产品，其中，电子游戏看起来是个很不错的选择。普罗米修斯很快就具备了极为高超的技能，能够设计出引人入胜的游戏，还能轻易地应对程序、平面设计、光线追踪等成品所必需的任务。此外，它还分析了网络上关于人们偏好的所有数据，知晓了哪一类游戏是玩家的最爱，据此发展出了一种根据销售收入来优化游戏的超能力。尽管不愿意承认，但欧米茄团队的许多成员都曾夜以继日地泡在游戏《上古卷轴5：天际》（The Elder Scrolls V: Skyrim）中。2011年，这款游戏在刚发布的第一星期，总销售额就超过了4亿美元。因此，欧米茄团队相信，在100万美元的云计算资源的支持下，普罗米修斯在24小时内一定能开发出一款像《上古卷轴》一样令人上瘾的游戏。他们可以在线销售这款游戏，并让普罗米修斯在博客圈里假扮玩家来大聊特聊，引爆热度。如果能在第一个星期入账2.5亿美元，他们就能在8天内将投资翻8倍，每小时的回报率高达3%，虽然比他们在MTurk上的表现略显逊色，但更具可持续性：假如普罗米修斯能每天开发出一款游戏，不久之后，他们就能赚到100亿美元，而不用担心游戏市场饱和。

但是，欧米茄团队中的一位网络安全专家坦率地表达了对这个游戏计划的不安。她指出，这个计划可能会带来一个可怕的风险：普罗米修斯可能会“逃脱”，并“抢夺自己命运的控制权”。过去，由于不清楚普罗米修斯的目标在自我提升的过程中会如何变化，因此为了安全起见，欧米茄团队决定不遗余力地将普罗米修斯“关起来”，囿于“盒”中，让它无法“逃”到互联网上。对运行在服务器机房中的普罗米修斯主机，他们采取了物理隔绝的手段：那里根本没有网络连接，普罗米修斯输出的所有数据都以信息和文件的形式传输给一台被欧米茄团队严格控制的计算机。

将普罗米修斯开发的复杂程序放到联网的计算机上运行，是一件风险很大的事情：欧米茄团队根本不清楚它会做什么，也完全不知道它会不会做某些事情，比如在互联网上像病毒一样扩散自己。在测试普罗米修斯为MTurk上的任务写的软件时，为了谨慎地提防这种情况的发生，欧米茄团队只在虚拟机中运行这些软件。虚拟机是一个模拟计算机的程序，比如，苹果电脑的许多用户会购买虚拟机软件，通过“欺骗”苹果电脑这是一台Windows电脑，来让它们运行Windows程序。欧米茄团队建造了自己的虚拟机，其昵称叫“潘多拉魔盒”。它模拟的是一台超级简单的机器，去除了计算机通常拥有的所有附件，没有键盘，没有显示器，没有音箱，也没有网络连接，什么都没有。举个例子，对于MTurk上的音频誊录任务，欧米茄团队对虚拟机进行了设置，只允许一个音频文件输入潘多拉魔盒，也只允许一个文本文件输出，即誊录好的文字。这些规则之于魔盒内部的软件，就好像物理定律之于身处宇宙中的人类一样：软件无法冲出魔盒的藩篱，就好比人类再聪明，也无法实现超越光速的星际旅行。除了上面所说的输入和输出单个文件之外，潘多拉魔盒内部的软件实际上就像被困在了一个拥有自己的计算规则的平行宇宙。欧米茄团队患有严重的“逃脱”恐惧症，因此，他们也在时间维度上加了枷锁，限制了不受信任代码的生存期限。比如，潘多拉魔盒中的誊录软件每完成一个音频文件的誊录，魔盒中的所有内存都会被自动抹去，程序会自动从零开始重新安装。这样，当它开始下一个誊录任务时，就不知道过去发生了什么，也就不能从过去中学习。

当欧米茄团队在MTurk项目中使用亚马逊的云服务时，他们能将普罗米修斯编写的所有任务模块都装进云端的潘多拉魔盒，因为在MTurk上输入数据和输出数据都非常简单。但是，对严重依赖图像的计算机游戏来说，这是行不通的。他们无法将游戏装进潘多拉魔盒，因为它们需要彻底访问玩家计算机上的所有硬件。此外，他们不想冒险，因为一些懂计算机的用户可能会分析游戏代码，从而发现潘多拉魔盒，并调查其中的秘密。“逃脱”风险不仅置游戏市场于危险当中，还可能会牺牲其他软件市场，而后者是规模巨大并且有利可图的，遍地都是千亿美元的机会。