警惕人工智能-“女性”机器人公民的权利应该被理性限制

光明网记者 吴晋娜

近日，沙特阿拉伯授予美国汉森机器人公司生产的“女性”机器人索菲娅公民身份。作为史上首个获得公民身份的机器人，索菲亚创造了历史。

“女性”机器人索菲娅

就像人们看到阿尔法狗的高超棋艺一样，惊叹之余，人工智能的崛起对人类生存是否会造成威胁，甚至毁灭人类？始终是一个能够引发人们无限遐想和脑洞大开的问题。

机器人公民的权利应该被理性限制

外媒 thenextweb点评此事件时，认为授予机器人公民身份根本不合理。因为机器人不是人类，即便相信奇点，但起码现在还没有到。对于任何一个国家来说，都不能因为AI是一个时髦词汇就将为机器人授予公民身份来当做吸引投资者的营销方式。

然而，也有评论认为，这一决定将被载入史册。也许这的确是沙特政府用来吸引投资的噱头，但不得不承认，这将会是机器人历史的里程碑，机器人第一次有了身份，她成了和你我一样的公民。

作为一个有真实的国籍、合法身份的公民，无论是在伦理上还是在法律上，都拥有人的权利。然而，有了公民身份，索菲亚就拥有了一个地球公民的合法权利和责任吗？

“索菲娅是一个被给予的主体，所以她的权利也相应的是被给予的。”从事技术哲学、科学与文化研究的上海大学社科学院教授杨庆峰认为，索菲亚是特殊的公民，这也意味着在享受人类权利上，需要部分限制；在承担公民的责任上，她甚至要承担更多的责任。

杨庆峰认为，对人类自身而言，需要思考索菲娅所拥有权利和责任的限度，并加以理性限制。索菲娅的学习发展和完善的速度会很快，也许瞬间完成学习。她可能会拥有超级记忆力、智能计算力的能力。这种能力如果被误用和滥用，就会很危险。

复旦大学软件学院教授戴开宇认为，索菲亚被赋予公民身份，是人工智能领域的一个标志性事件。

“索菲娅的公民权利和义务有哪些？比如如何对其违法犯罪行为进行评判，这些都是不明朗的。我并没有看到沙特政府给出明确的界定。这涉及人工智能与法律、伦理的问题，而不只是技术的问题。”戴开宇认为，机器人和我们人类还有太多的不同，至少目前也还不是生物体，那么肯定不能从权利和义务，以及法律的各个方面等同，还涉及不同国家文化传统、信仰等等方面的问题。

上海大学社会科学学院教授、博士生导师周丽昀认为，当前，人类还来得及思考，是否有些领域和禁区，是机器人所不能进入的，因为我们尚未看到与权利相对等的对机器人约束的“义务”。进一步地要明确，机器人“犯错”或者并未如其所说来帮助人类，反而对人形成威胁，谁来为这些后果负责。

人工智能技术的发展会带来无限可能

在见面会上，机器人索菲娅在演讲台上的表现非常出色，甚至熟练地避开了主持人向她提出的“机器人自我意识”的问题，她甚至有幽默感。当时索菲亚回应称：“让我反问下你这个问题，你怎么知道自己是人？”

机器人真的可能会具有类人的意识吗？戴开宇认为，目前警惕人工智能，人工智能还远没有达到本质上的对人的意识的模拟。哪怕是人对自身的意识的机制都所知甚少，也就不可能制造出具有本质上类人意识的机器人。

“实际上，索菲娅的许多对话还只是一种表面的智能。许多对话还是人所设定，甚至问题灵活改变下，就无法像人一样作答，而是采取转移话题等方式来尽量自然的对话。” 戴开宇说。

戴开宇解释，虽然现在的很多智能软件可以作曲；还试图模拟人的艺术审美能力；也有对创造力的模拟，比如机器自动编程；还有对情感的模拟，比如情感计算。但是这些都是人所赋予的一些算法，只是将以上人的能力使用机器进行了表示和计算，人工智能还远未具备本质上等同于人类相应行为的特征。

很多人担心，具备了人类意识的机器人会对人类产生威胁，这种威胁甚至是毁灭性的警惕人工智能，就连霍金、比尔盖茨等很多名人也发表过对AI可能对人类产生威胁的警告。

“我们可以判断的可能是技术能发展到什么样子的水平，但是我认为很难判断将来会发生什么。技术是双刃剑，如同核能可以发电，也可以作为武器。对任何新技术的使用，都应该且行且珍惜。”戴开宇认为，

对于人工智能对人的威胁，很多科学家认为，人工智能的春天还远未到来，一切尽在人类掌握之中，人工智能还只是模拟人的情感，离有情感的人类还远。

与这种观点不同，从社会学角度出发，周丽昀认为，事实上，意识和情感的机制是如此复杂，以至于人类自身都很难清晰把握，更遑论应用到人工智能身上。但是，这并不能排除一种可能，就是机器人的情感机制无比接近人类，甚至超过人类。等人类发现的时候，已经为时已晚。

周丽昀解释，自我意识意味着人或机器对自我有一个身份认同，并且了解自己与他者和世界的关系。索菲娅在演讲会上成功避开“机器人自我意识”问题，还反问人类如何知道自己是人类，这一点引人深思和警醒。索菲娅似乎已经具有了类人意识，显得比人类还要高明。

“更可怕的是，机器人跳出人类的意识和逻辑，以类人意识为中介，通过深度学习，自我创造并发展出一套超出人类的意识系统。如果是这样的话，人类对机器人所赋予的价值观可能会崩塌，人类对机器人可能会失控，机器人毁灭人类就会成为可能。” 周丽昀认为。

对待人工智能的发展要谨慎乐观

目前，国内人工智能水平主要还是处在算法阶段，但已经开始向更加深度学习的“认知脑”转换。从世界范围来讲，人工智能也已经被深度运用到医疗、金融、教育、交通等方方面面。

“重大的技术创新会带来整个工业结构的改变，比如蒸汽机的发明将人类带入了工业社会。人们的生活方式和工作都发生了极大的改变。以人工智能为代表的计算机技术的发展和应用也会如此。我们需要提前做好准备。”戴开宇表示。

他认为，人工智能会推动生产力的发展，会带来许多方面的效率提高和极大便利，为带给人们幸福感提供了很好的基础。人工智能的发展会带来大量的产业结构调整，以及人们工作和生活的极大改变，包括大家热议的什么行业会容易失业的问题。然而，从长远来看，人工智能是否会推进社会进步，就要看进步的定义和人工智能到底会如何发展。

戴开宇解释，“我一直认为人们生活水平和幸福感的提升是社会进步的一个重要标准。但如同《未来简史》里面谈到的，如果人工智能被少数有话语权的人掌握，导致许多人成了无用阶层，那么即使技术很先进，那么社会却不是进步的。也如同《人类简史》里面讨论的，农业社会相对于采集社会，就是进步了么？从大多数人的幸福感来看，可能并不是这样的。”

周丽昀则认为，对人工智能的发展，应该持一种谨慎乐观的态度。毫无疑问，人工智能的发展将会为创建更加智能、便捷的生活和未来，这是符合时代发展趋势的，所以，一味地抵抗，既不符合历史，也不符合逻辑。

“但是，倘若不为人工智能的发展设限，而任由其发展下去，乃至出现像《机械姬》《I，robot》等影片中出现的那种结局，人类将如何自处？”周丽昀表示，技术乐观主义者、技术至上论者以及进化论者认为，即便将来人工智能完全碾压甚至替代了人类，也没什么大不了，机器人完全可以是人类的新后代。

“但我们需要思考的问题是，人类发展科技的目的是什么？是为了人类自身服务，还是为了战胜自己，把人类拍死在沙滩上？难道人类发展人工智能，就是为了最终毁灭人类吗？”周丽昀认为，谨慎乐观的态度是希望人与机器人可以和谐共处在具体的人类活动面前，动物解放论、生物平等主义乃至深层生态学，并不能解决具体的现实的难题，开明的人类中心主义才是具有可操作性的现实途径。机器人与人绝对平等也只是一种道德理想。

在周丽昀看来，在现实层面，机器人可以部分地拥有一定的权利，但是必须符合人类基本的价值观和利益。人类也必须为机器人设置一些禁区，比如不能发展具有情感、意识的机器人，否则人将不人矣。在人与机器人的关系上，开明的人类中心主义依然是可以遵循的现实法则，那就是人与机器人和谐共处，对机器人的开发与应用，要以有利于人类的可持续发展为目标。