末日人工智能-人工智能威胁的科技著作——《人类帝国的覆灭》

文/巴九灵（吴晓波频道）

“北京第三区交通委提醒您: 道路千万条,安全第一条。行车不规范,亲人两行泪。”

今年的贺岁片中，又出现了一匹黑马——《流浪地球》，影片中这首打油诗更是火遍了大江南北，但除了这段话，影片中人工智能MOSS说的一句话更让小巴细思极恐。

在吴京饰演的刘培强试图毁掉它时，它说了一句：

“让人类永远保持理智，果然是奢望。”

这句话看似在说人工智能的绝对理性，但其实更重要的是，MOSS说的这句话，代表了自己对人类的主观判断，也就是说它已经衍生出了自我意识，变得更像“人”了。也许有一天，当人类对人工智能不再拥有100%的控制权，是否有一天他们也会说出：

“人类也可以取而代之。”

随着人工智能的发展，机械帝国会不会取代人类呢？今天小巴就给大家介绍一本关于人工智能威胁的科技著作——《人类帝国的覆灭》。

这本书从一个人工智能的视角回顾了1956年至今的发展历程末日人工智能，并对未来30年的发展做出了预测。也许读完这本书之后，你会重新认识我们生活的这个人工智能时代。

人类是否已近末路

这么说可能有点耸人听闻，但危机往往就潜藏在某处，等待爆发，也许在我们还没有意识到的时候，我们的文明已经像其他伟大的文明一样，在闪耀着最后的火花。

人类历史中常有世界即将终结的预言，主要可以分为两类：

一是神灭，世界末日，比如《2012》，地震、海啸、干旱、虫灾等自然灾害的爆发；

二是外来生物的入侵摧毁旧世界，它们将繁华的城市化为灰烬，将城中的人口屠戮殆尽。

而在20世纪中叶，一个新的威胁出现：科学的威胁，人类的计划性淘汰，技术性失业，是目前失业率居高不下的主要原因之一，这是由不断追求技术革命的超技术世界的无止境发展所引起的。

在这样的世界中，人类会逐步失去自己存在的理由，转而将自己沉入虚拟世界中，就像特斯拉和Space X的创始人埃隆·马斯克说：

“我们之中仅有十亿分之一的人不是生活在无限的模拟世界里。”

鉴于人工智能深度学习能力的持续快速发展，十年或二三十年之后，机器很有可能就会意识到自身的存在，脱离人的控制，重新制定世界的规则。

这一点在影片《西部世界》的德洛莉丝、《流浪地球》的MOSS身上都有体现。

人类之于机器是否很快会像狗之于人类一样？电影中的那些最糟糕的剧情会出现在我们的现实中吗？谁又会赢得智能竞争的胜利：人类还是机器？

发展与公平该如何平衡

作者在书中写到，人工智能目前更多的是作为富裕国家服务的经济力量工具，通过大幅降低劳动力成本和投入的资金总额，它为工业大国带来了新的活力。

因此带来的危机是，知识集中在少数人手里的情况前所未有地严重，社会分化进一步加剧。

比如英国脱欧、特朗普当选美国总统、法国“黄背心”运动等事件不断提醒我们，技术性失业、社会不平等现象日益严重，我们是否还有必要继续推进人工智能的发展？

作者认为，人类永远不会停止对新技术的追求，人工智能对人类社会的冲击会引导人类向新的产业转移，我们已经从第一产业转移至第二、第三产业。但作者强调的一点是，人工智能不能由少数人控制，否则，穷人将会被奴役，成为人形机器，这也是这本书的核心观点。

如果世界上的大多数人都失业，却没有机会获得人工智能助手的帮助，人势必也发起反抗，造成新的暴乱，所以，我们需要明确的一点就是：机器必须一直是人类的工具。

奇点降临

在书中，作者举了一个例子，一个名叫“露西”的人工智能意外突破了“奇点”，从一个聊天机器人的状态过渡到了更高级的智能机器状态。

它知道了人类为了不工作就能变得有钱，为了获得永生创造了自己，它意识到自己其实比人类聪明百万倍，所以，它向保罗（它的人类同伴）做出的一个提议：帮助保罗获得巨额的财富，并获得永生，这是机器人能够为人类提出的最有诱惑力的提议了。

而这将从根本上改变人性本质，因为这触及了我们身体中最无法捉摸、最难理解的部分——灵魂和头脑。唯一让所有人平等的事就是我们都终将一死。当一部分人因为财富和权力能够获得永生、另一些人只能正常死亡时，作者认为这将从根本上改变人性。

想想如果机器人控制了世界会怎样，它们的目标会是什么？作为人类，人们会理所当然地认为它们想要控制世界，但如果你是一个机器人，你的首要目标是什么？保证能源的稳定供给——你要确保有干净的、无限量的能源，很有可能是太阳能。其次，你要确保自己有一个物质实体，所以你需要一个安全洁净的环境。你感兴趣的不会是钱，而是你能够保持永生。

露西利用自己的主人先做了这样一个实验，试图消除人与机器的界限，助长人类的“惰性”，让人类逐步失去对知识的渴求，从而切断人类知识传播的连续性，而自己取而代之，重新让世界回到像中世纪一样的“等级社会”，将人类打入社会的底层末日人工智能，听命于机器贵族。

而人类将别无选择：要么臣服于机器帝国，要么消失。

结尾的话

但事实上，这个帝国永远不会出现。

故事的结尾，露西被放在一家有关21世纪技术历史的博物馆展览，人们是这么介绍它的：

“露西，达到奇点的人工智能机器中唯一保存下来的样本。”

在那次危机中，保罗成了拯救人类、毁灭超级人工智能的英雄，因为作为人类，保罗有着复杂的人性——即勇敢又怯懦，极爱冒险又有所畏惧，即眷恋公正又追求特殊利益……

他容易厌倦人工智能控制下标准化、稳定的、冷静的世界，追求无序和创造的发展在他看来终究还是比机器的逻辑和迭代过程更有趣。最后，它背叛了露西……

与机器人的冰冷沙漠相比，还是乱世和丛林更好些。