人工智能与人类文明的关系-维罗索-梅隆大学机器学习学院院长谈AI对人类造成威胁

到2021年，几乎所有日常软件都将拥有智能，功能也越来越强大，可以取代人类去做越来越多的工作，这会对我们产生什么样的影响？有些人预测会引发大规模失业或是人类与人工智能（AI）爆发全面战争，其他人预测的未来也十分暗淡。然而，卡耐基-梅隆大学机器学习学院院长曼努拉·维罗索教授（Manuela Veloso）却认为，将来人类与智能系统将是不可分割的，他们需要紧密结合，不断交流信息，她称这种关系为“共生自治”。维罗索预测，将来人类代理与自动化助理之间将很难区分，但是无论是人类还是软件，缺少任何一方都将玩不转。

维罗索已经开始在卡耐基-梅隆大学中测试自己的理论人工智能与人类文明的关系，并制造了类似赛格威外形的漫游机器人Cobot。这种机器人可以自动护送客人前往不同的建筑，在无法满足客人需求时，还会像其他人求助。这是有关AI研究的新途径，在未来5年将产生深远影响。维罗索日前在匹兹堡接受专访，谈及机器人、编程自发性技术的进展，并挑战AI对人类造成威胁的说法。以下是采访摘要：

问：在过去5年中，我们看到的大趋势之一就是自动化。与此同时，我们也看到更多智能系统被植入到已有设备中，比如智能手机和电脑等。在接下来的5年，你认为这种趋势还会蔓延到哪些领域？

维罗索：将来，我认为人类与有望为人类提供服务的AI系统将形成共存关系。这些AI系统将被植入处理数字化世界的软件系统中，同时被植入围绕物理空间活动的系统中，比如无人机、机器人、自动汽车等。此外，AI也可被用于处理物理空间的系统，比如物联网。

在物质世界，你会看到越来越多的智能系统，不仅仅在智能手机或电脑上，而是存在于我们周围的各种设备上，用于处理和传感有关物质世界的信息，帮助了解物质世界的更多特征，以便于我们做出决定。随着时间推移，我们还将看到这些AI系统对社会上更广泛的问题产生影响：管理大城市的交通、对气候做出复杂预测、支持人类作出重大决策等。

问：现在，有些AI系统的表现还不尽如人意。当算法或机器人做出决定时，我们并非总能理解它们为何做出这种决定，以及哪个决定更值得相信。技术专家能够应对这样的问题吗？

维罗索：我的工作之一就是能让这些机器可以解释自身行为，它们需要对自己的决定负责，决定过程需要保持透明。我们进行的许多研究是让人类或用户去查询系统，而我的机器人Cobot稍晚到达我的办公室时，我会问“你为何迟到？”、“你走了哪条路线？”

我们正致力于赋予这些AI系统新的能力，以便它们解释自身行为。它们在学习和改进过程中，也将能够提供不同层次细节的解释。我们希望能与机器人进行更深的互动，最终让人类能够更信任AI系统。你可能会问它们：“为何你（AI系统）会那样说？”或“为何你提供这样的建议？”

提供这些解释恰好是我正在研究的课题，我相信机器人将能够做到这一点，这将促使人们更好地理解和信任这些机器人。最终，通过这些互动，人类也可以对AI系统进行纠正。为此，我们正研究试图对AI系统进行修正，并帮助它们学习指令。我认为，这对人类与AI系统共存非常重要。

问：为何你认为这些AI系统正快速进化？过去50多年的AI研究取得了哪些进展？

维罗索：你必须知道，对于AI系统来说，要想了解什么是手机、茶杯或某人是否健康，需要学习很多知识。而早期的许多AI研究实际上就是如何获得这些知识。我们可能必须向人类询问，或者在书上寻找信息，并手动向计算机中输入信息。

令人感到神奇的是，在过去几年中，越来越多的信息数字化，似乎整个世界都被搬到了互联网上。为此，AI系统现在已经拥有大量数据可用，它们也有能力处理这些数据，并让数据更有意义。而我们必须找出帮助AI系统的最好方式。另一方面，我们对此感到十分乐观，因为我们知道数据已经大量存在。

现在的问题是，我们如何从数据中获得见解？你要如何使用它？你如何研究分布，也就是数据统计？你如何将这些碎片拼合起来？这就是你需要深入学习和深度强化学习的。系统可以自动翻译，机器人可以踢足球，所有这些事情都是可能的，因为我们可以非常高效地处理这些数据，而我们无需再花费更多精力来获取相关知识。

问：过去5年中，像Siri和Alexa等个人助理取得了长足进步，它们都有机器学习支持。我很好奇，你认为这些系统在未来5年会发生怎样的变化？

维罗索：你知道，我是Alexa的忠诚粉丝。我家里就有Alexa，我能与它谈及的话题越来越广泛。最初，我只能问“今天天气怎么样？”这样的简单问题。现在，我可以问它“我今天有哪些安排？”Alexa正在学习，而我也在了解Alexa能做些什么。我对它随着时间推移将会发生何种改变也充满渴望。

我可以告诉你一件有趣的事情：当我离开家时，我会告诉Alexa：Alexa，请停下来！ 我希望它停止播放正在播放的音乐，因为我正要离开。但是如果我告诉Alexa：Alexa，我要离开了！它还不太理解这句话的意思，因此也不会停止播放音乐。我必须接着补充具体指令，让它停播音乐。我认为，个人助理将会变得越来越有“指令意识”，当我说“我要离开了”，它应该能理解话外之意，即停止播放音乐。现在，这种“指令意识”也被纳入研究日程中。

问：你认为个人助理最终可进化到下列程度吗？比如我们可以问它：检查下汽车引擎，我能安全乘坐吗？或我刚刚接到工作邀约，我应该接受吗？

维罗索：我认为这完全有可能。这些问题都属于决策问题。假如你必须在哪些健康保险计划中做出选择，而你又对所有选项感到困惑时，你可以告诉Alexa自己要去睡觉，然后请求Alexa帮你阅读所有保险计划，或你能购买的所有车型，你的孩子能去的所有学校等。Alexa可以利用晚上时间，为你整理出完整的报告。

现在，网上已经有大量相关信息。你可以查找所有学校的特色，查看其他人对学校的评价。AI系统可以收集这些信息，比如它们距离你家多远，其他人的评论如何等。它们可以了解这些学校的功能人工智能与人类文明的关系，了解它们过去的历史，并处理所有可用信息，为你提供答案和指导，这些信息将令你更容易消化。因为目前网上的信息量过于庞大，有时候你根本看不过来。

最终，你可能希望个人助理告诉你，为何它们会给你提出当前建议。你可能会问：“你为何认为我应该买那辆车？我真的不太喜欢这个品牌。”我认为这是非常重要的一步，有了AI系统给予人类决策的支持，再结合你所了解的信息和获得的企业反馈，你将可做出更明智的决定。

问：除了帮助人们做出决定，这些AI助理还能做什么？

维罗索：你可以想象下，类似系统可用于帮助你处理科学论文。每年都有无数的科学论文出版，现在它们都已经被发布到网上。你可以想象AI系统帮助研究人员消化所有信息，并寻找与他们兴趣相关的东西。

AI系统将依然是网络信息产品。许多人正研究这些信息，比如文本信息、图像信息、流程图、图标等，并试图理解这些信息，最终筛选出你可能需要的信息。举例来说，机器学习有个名为“主动学习”的分支领域，如果某个过程中没有足够的图片，它可能希望你添加更多图片。

我认为AI系统将可以识别缺失的图像，并将网上所有信息连接起来，必要时还会请求更多数据。你可以想象下，它会问研究人员：“如果你告诉我更多有关这些细胞如何与这种化学物质相互作用的信息，我可以获得更好的相关模型。”

当然，这些自动机器人也存在局限性，它们不可能打开所有世界的大门，因为无法理解所有口语。但我认为，人类同样存在局限性，比如讲话有口音等。显然，对于我们来说，这些机器人和AI系统的主要功能之一将是识别它们不知道的东西，他们不能做的事情，他们不理解的信息，并向人类求助。你能按下电梯按钮吗？你能大开门吗？你能将东西放进我的篮子吗？这就是我所谓的“共生自治”。当有些事情是机器人无法做到、不知道或不理解的，它们可以向人类求助。这是新的思维方式，我们周围的AI系统将会寻求我们的帮助，需要我们分担它们的部分任务。

随着这些AI系统的增多，这种情况会变得更加复杂。系统已经可实现无线通信，可获取云端数据，或寻求远程团队帮助。你可以想象下，AI系统不断与任何东西共生，比如互联网上的信息、其他AI系统、旁边的人类、远程人类团队等。这不再是开发自给自足AI系统的问题，而是AI系统可以识别自己不知道的东西、需要了解更多信息、识别自己不确定的东西。这并非是说AI系统不再注重解决所有问题，而是能够依赖周围资源解决问题。

问：你怎么看我们正在使用的AI系统与人类共生关系的改变？

维罗索：让我们回到上述假设中，即要求AI帮助决定孩子上哪所学校或我们购买哪份健康保险上。我认为在某种情况下，这些AI系统可能需要人类没有提供的信息。AI系统可能意识到，如果它能知道这些额外信息，可以为你的决策提供更好的帮助。

最有意思的是，当AI系统能够自己识别正缺失的信息时。它们实际上已经意识到，要想采取具体行动，它们还需要更多信息。举例来说，如果它们能够预定无法网上预订的酒店房间，它们就可以在距离你的会场不远的地方预订酒店。我真的认为这种能力非常重要，因为就连我都不知道系统在做出这种决定时需要了解的哪些信息。

现在，我们可以将目的地地址输入到Uber、谷歌地图或Waze中，这足以帮助我们规划出路线。可是，Waze无法与你交流，比如询问你：“你有急事吗？我需要为你规划出最短路径吗？还是你只是想要散散心，浏览下那里的美景？”如果个人助理知道我非常喜欢兰花，或我钟爱某种艺术，结果会如何？如果稍微偏离路线，我可能会顺便访问博物馆。在规划路线时，如果个人助理知道这一点，它可能会为我规划通过博物馆的路线。

通用AI（General AI）面临的挑战是艰巨的。我们现在拥有深度学习、深度加强学习等技术，这已经可以让它们产生普通智能的感觉。我们还在进行大量研究，试图理解迁移学习的概念。我们如何开发出算法？因为它们可以解决特定问题，它们也能学会去做其他事情吗？我们还未完全理解AI，我们不知道有关它们的许多事情。从算法、技术、概括方法、提供解释方法等角度来说，我们依然处于AI的早期阶段，我们依然需要继续努力。

但我相信，通用AI将来会集成许多专门的AI系统，将它们融合成明斯基（Minsky）所描述的“心智社会”。在AI研究之初，人工智能先驱艾伦·纽厄尔（Allen Newell）与赫伯·西蒙（Herb Simon）曾预测，可能有特殊用途的算法，可以解决非常复杂的问题。

为此，即使研究通用AI可能面临诸多挑战，但也令人感到激动万分，因为现在拥有如此大量的数据。还有如此多的人在使用数字设备，并不断生成数据。通过越来越多地使用电脑、手机、Alexa以及Uber等，所有这些都有助于我们研究通用AI问题。我们依然有许多研究要做，我们依然不知道通用AI到底是什么，但我们正朝着那个方向迈进。

问：这种不确定性让你感到担忧吗？有些人担心AI超越人类智能，人类将会被毁灭。

维罗索：我是个乐天派，我认为我们正在进行的自动化系统研究（包括自动汽车、自动机器人），都需要人类来负责。在某种意义上说，这与技术没有任何关系。技术将不断取得进展，它是人类发明的，而非外星人从天上扔下来的。这些都是我们自己的发现，是人类大脑设想出了技术，同样取决于人类如何利用它。

我之所以对此感到乐观，是因为人类已经意识到，我们需要谨慎应对这种技术。但是最好的方式就是投资教育。机器人可能会越变越好，但投资于教育，人们就可以互相了解，互相照应。关怀社会进步，关怀地球和自然，改进科学。解决所有这些问题，包括治愈癌症、消除贫困。利用人类开发的这种技术，我们还可以去做许多事情。

在某种意义上说，正是AI的这种人性让我们走到一起，从此难以割舍。为此，我对未来充满乐观。