人工智能对未来战争-人工智能不一定邪恶但会像“人类无意中踩死一只蚂蚁”

机器对人类造成的影响将愈发深远

武器装备的技术水平在过去二十年里也发生了巨大变化。近年来，随着各国逐渐加大在人工智能领域的赌注，有关“终结者难题”的忧虑在世界各国防务界不断积聚。马斯克曾把研发人工智能比作“召唤恶魔”，霍金也曾发出类似警告，认为人工智能不一定邪恶，但可能会像“人类无意中踩死一只蚂蚁”那样伤及人类。

特斯拉人工智能机器人

不仅是人工智能的“反噬”，在911事件20周年之际，在美国狼狈撤出阿富汗的背景下，非对称自杀式恐怖袭击带来的挑战越来越难以忽视。这里研究人员同样担心人工智能对未来战争，未来如果恐怖组织能够将人类自杀式炸弹袭击者排除在人工智能算法之外会怎样？这种担心源自人工智能和机器人技术的威胁。

人类能够借助人工智能攀爬文明的阶梯

人工智能自主武器是继火药和核武器之后的第三次战争革命。人工智能应用于军事自主武器的必然结果就是——人工智能完全参与杀戮——在人类没有参与的情况下，寻找、决策和消灭一个人类的生命。

例如，以色列的 Harpy 无人机，它被编程为飞到特定区域，寻找特定目标，然后使用高爆弹药摧毁目标。一部名为Slaughterbots的短视频展示了一个更具挑衅性的例子，视频描述了鸟类大小的无人机可以主动寻找特定人员，并通过“自杀式”攻击目标头部的方式，击杀特定对象。这些无人机可以自行飞行，而且体积小、灵活，很难被发现、捕获或摧毁。

美军构想的无人机作战集群

这些“杀戮机器人”不仅仅是虚构的东西，一架这样的无人机在2018年差点杀死委内瑞拉总统。如今人工智能对未来战争，一位经验丰富的无人机业余爱好者可以以不到 1000 美元的价格就能制造一架。所有部件均可在线购买，所有开源技术均可下载。这是人工智能和机器人技术开放性和低成本性的意外结果——一个 1000 美元的政治刺客！这已经不是危言耸听恐吓，而是一个明确而现实的危险。

人工智能无人攻击机

我们目睹了人工智能的进步有多快，这些进步将加速智能自主武器的落地。“杀戮机器人”不仅会变得更智能、更精确、更快、更便宜，甚至还能具备学习能力。例如，如何通过团队合作和冗余形成无人集群，这种能力将使“杀戮机器人”几乎不可阻挡。虽然10000架智能无人机组成“杀戮机器人军团”可以摧毁半个城市，但理论上只需1000万美元的成本，这是多么恐怖的设想，关键是这种设想在技术已经实现了。

人工智能掌控战场，人类是否成为场外人

即便如此，人工智能自主武器也并非没有好处。如果战争是由机器进行的，自主武器可以挽救士兵的生命，可以帮助士兵只针对战斗人员，避免无意中杀死友军、儿童和平民。但人工智能自主武器的缺点远远超过上述好处。最强烈的争议便是伦理和道德上谴责，联合国秘书长也曾表示：“任何拥有自由裁量权来夺走人类生命的机器在道德上令人反感”。

人类文明“终结者”天网是否会出现

而另一个主要矛盾是问责的问题——一旦“杀戮机器人”发生错误时谁负责。这对于战场上的人类士兵来说容易区分，但是当杀人任务被分配到人工智能自主武器系统时，如果“杀戮”错误，那么责任谁来承担。换成中国的古话：“杀人偿命”，但是人工智能机器人“杀错人”谁来“偿命”？人工智能不同于以往任何一种技术，它研发的是会思考的机器。正如霍金指出，人工智能是人类有史以来最重大的创举，但同时也是人类面临的最大挑战。