人工智能存在的问题-科幻电影；人工智能；伦理问题

摘要：科幻电影在较深的精神层面凸显了人工智能科技发展所造成的当代伦理困境，本质上是关于当代人的欲望与理性之间的对立、矛盾、斗争和解决。回归智能社会本身，反思智能社会的真实向往，以我们自己的方式解决智能社会中人自身的困惑与焦虑，进而正确引导尚不成熟的人工智能趋利避害发展，就有了重要现实价值。

关键词：科幻电影；人工智能；伦理问题

人工智能技术话题近五年来广泛活跃在社会不同领域，它越出科技圈，正在真实且快速地渗入普通中国人生活中，并引起了人们对人工智能（Artificial Intelligence ，简称AI）的多方面探讨。科幻电影通常是大众接触和了解AI的最便利途径，这里也是许多专家对AI展开天才预测和想象的前沿地带。在科幻电影所构建的“超真实”世界图景中，围绕AI伦理问题所产生的争论往往变得更自由、集中、激烈和尖锐，容易触碰到AI伦理问题的核心和最实质部分，这正是科幻电影对现实人工智能技术的最大警示价值之所在。

科幻电影在较深的精神层面凸显了AI科技发展所造成的当代人伦理困境。AI题材类电影故事的展开通常围绕着“人与机器人二元对立关系”主题人工智能存在的问题，但实际上就是关于当代人自身问题的对立、矛盾、斗争和解决，是人心灵世界内部的遭遇在当今科学世界笼罩下的折光。科幻电影中塑造的AI“他者”形象实际上是人类的映照。影片中的机器人为人类所创造、控制，当它摆脱服务者角色展现出惊人的“自我意识”后的所作所为也只是对人类的模仿和特写。我们看到，科幻电影最乐于展现的就是后一种令人忧虑的情况：“超级人工智能”的实现，带给人类社会巨大风险。①虽然超级人工智能还只是电影想象，但是自从AI诞生之日起，关于AI是否会超越人类智能的争论就从未停止过。至今来看，任何专家的观点都只能看作是一种猜想。也许我们不能阻止AI向人类智能无限迫近，但合理认识并解决智能社会中人自身的困惑和焦虑，进而正确引导尚不成熟的AI趋利避害地发展，却大有可为。

一、智能社会：在欲望和理性之间

马克思说：“各种经济时代的区别，不在于生产什么，而在于怎样生产，用什么劳动资料生产。” ②我们身处的时代同以往相比已有了巨大不同。科学技术不仅是当今时代最大的生产力，也成了我们的一种基本的思维方式、生活方式。科技日益朝着智能化、人性化和亲民化的方向发展，人与科技之间的关系更为密切且复杂。现代人身处的是一个智能社会，人的日常生活被各种智能产品环绕着：无人驾驶、人脸识别、智能药丸、微软小冰、高考机器人等。这些几乎无所不能的智能产品是科技奇迹、人间奇迹，是人的认识理性和实践理性所取得的空前成就。尤其是近年来在人与AI的竞赛中，AI一次又一次的胜利彰显着科技理性力量之强劲。千年来，自苏格拉底、柏拉图直至黑格尔，西方传统哲学对启蒙理性的强大信念，是这个理性化、祛蔽化的智能社会的基因和底色，然而对理性趋之若鹜和盲目骄傲必然会使原本作为目的之理性产生质变——工具理性裹挟着现代人走向了幸福生活的反面。

“智能社会”本身就暗含矛盾。它是“充满智能机器的社会”与“人类的社会”的结合体。但机器与人类作为两种本质及其属性绝然不同的存在，二者的结合必定是极其复杂和充满矛盾的过程。事实上这种矛盾早已暴露端倪，在AI产品不断更新换代的过程中，人与机器之间早已不仅仅是使用者与服务者的主仆关系，而是发生了机器不可思议的胜利、人过度依赖机器、机器意外“主动”伤人，直至催生出科幻电影频频上演机器主宰、奴役人的恐怖想象。AI本是人类为实现更美好、更理性生活的伟大发明，但在一次次突破人类能力的胜利中，科技理性却成了满足人类欲望的借口。理性被囚在欲望牢笼里丧失本性，欲望却挑着文明的幌子肆无忌惮。

人不仅是万物之灵，电影中的人类还是掌管着比人类自己更高级的物种。而这种借助科技理性控制一切的权力，必定是集中在少数有权有钱有智的精英手中。我们看到，在电影中被AI奴役的人，乃是现实中的剥削者。他们借助神奇的AI，将理性之绳编成欲望之网覆盖在更多普通人身上，人与人之间的矛盾变得更加隐秘和复杂。AI作为一种高科技、高消费产品，在它成为消费社会新卖点后，就成为又一种新型文化区隔工具。大多数没有AI、不懂AI和不使用AI的人就更容易被边缘化，被区隔在主流社会之外，进一步加重了社会两极分化。当人越来越愿意相信机器，也就不愿意相信人，因此我们变得日益轻率、冷漠和自以为是。

畸形的人类欲望在电影中的超级AI面前暴露无遗，人也不断遭受着欲壑难填之苦。《机械姬》中的漂亮机器人成了满足肉体欲望的工具；《人工智能》中机器人实际上是去世亲人的复活，教人逃避死亡；《她》中男主人公利用虚拟女友逃避现实中的正常人际交往。以往那种只会吃苦耐劳的机器人并不能令人感到满足，出于各种商业、政治、战争目的，AI产品层出不穷，不断刺激着人全身心的各种欲望。欲望像幽灵一样出没于我们的心灵之地，一个个更先进、更智能的AI消费，只能暂时填补欲望之壑，其实心灵早已困顿不已，不堪一击。《她》中的主人公沉溺于虚拟智能世界，难以适应现实社会。现代版的洞穴之喻表明，我们不再害怕黑暗的虚幻之物，却害怕面对现实的光明。电影中的超级AI不仅仅是幻相，它真实表明了现代人早已不再满足于冷冰冰的科技产品，而是想发明一种像人的玩物来满足私欲，自己去扮演全知全能的上帝角色，不用承担现实责任和原罪诅咒。

二、我们真正想要的是什么？

围绕着人与AI机器、人与人、人与自身之间的三对矛盾展开的故事情节既是科幻电影最引人入胜之处，同样也是现实社会中人工智能伦理问题的聚焦点。回到智能社会本身，我们去反思AI的发明和制造本来是为了什么呢——我们是想追求一种好的生活（Good life），一种智能机器与人类友好共处的文明社会。

智能社会不是虚拟社会，我们想要的是真实的生活世界。盲目追求科技理性的生活方式，迷失于过度消费的圈套里，我们就会忘记生活的本来面目，不知不觉中过一种“假的生活”。自20世纪以来，特别是现象学打出“面向事情本身”的大旗，人们对科技理性、工具理性的反思和批判就从未休止过。在某种意义上，智能社会正是这样一种无处不以数字量化来显示其存在的社会。监控一个井盖、记录一辆车的轨迹乃至透视一个人的心思，几乎任何实体AI都能以简洁无误的数字全方位展现给我们。但真实的人类社会不是这样，人类社会是一个生活世界，人作为生活世界生生不已的力量源泉，是存在先于本质，AI则相反。人是主动的、生成的、创造的、超越的，有生命力的，相应的生活世界是变化的、丰富的，是高于科学世界的。完全以科学世界那种量化方式作为生活方式和思维方式，就会丧失人的主体性和能动性，幸福生活将变得不可能。只有反过来，以生活世界为起点，才能更合理地解释、理解以智能社会为代表的科学世界。人运用AI，不是为了自保和延续，而是将其作为生活帮手，把人从日常杂多质料中解放出来，更好地发挥创造性，使人有更多闲暇享受生活乐趣和智能社会的便利。

智能社会不是精英社会，我们想要的是每个人自由而全面的发展。智能社会要解放的不是少数社会精英，而是大多数普通人。AI也许会是社会文化区隔的工具，但在斗争的另一面，人与人之间的矛盾在智能社会中也可能会发生微妙变化。特别是当人和AI的矛盾日益明显时，就更加凸显了人与人之间友好交往的必要性。因为人不是AI，人的本质必须是在社会实践中形成，生活意义的建构也必须来自主体经验的体悟。只有与人相处（而不是机器），去体验社会，我们的生活才会更开朗，对生活的记忆才会更深刻，生命的状态才最自然，幸福的感觉才最亲切。我们欢迎更加文明的智能社会的到来，而这样的社会应该是更注重人与人之间的友好对待关系，更注重社会的公平和正义。

智能社会不是享乐社会，我们想要的是真实的快乐。家务机器人、助老机器人、儿童看护机器人、宠物机器人、性爱机器人等各种新奇的AI产品不断刺激我们的消费欲望，这些AI在一定程度上免除了身体劳累之苦，满足各种感官快感。人们常把这种享乐当作伊壁鸠鲁式的快乐，但是快乐在伊壁鸠鲁那里除了肉体无痛苦外，还更注重心灵无纷扰的状态。因为纯粹的肉体快乐乃是消极快乐，能够克服人为制造出来的欲望才是真快乐。在智能社会中，真实的快乐绝不会仅停留在感官层面，必定是来自于人精神的充实和宁静。在这样的社会中，人能坦诚地面对人之为人的局限和不完美，不被欲望奴役于消极快感中。人就是要过一种理性的生活，一种不伪装的、人的生活而非神的生活。只有克制欲望，回归人的理性，才能真正感受智能社会的美好。

三、我们自己的解决方式

智能社会的发展还存在许多矛盾和问题，但是人工智能大潮作为必然态势已迅猛席卷全球，世界主要发达国家纷纷抢占AI滩头阵地，美国、德国、英法等均在国家战略层面制定人工智能发展规划，竞相加大对人工智能的投入力度。我国在2017年出台的《新一代人工智能发展规划》明确提出要在2030年抢占人工智能全球制高点。改革开放近40年，身在中国的每个普通人都深刻感受到祖国的巨大变化，真切感受到了智能社会对人日常生活的广泛影响，不仅享受AI带给我们的便利，另一面也为其所扰。中国人工智能伟大实践的大步迈开，离不开其背后相应理论的有力支撑。而这样的立论支撑必定来自属于我们自己的民族理论。哲学作为时代精神的精华，作为理论思维的制高点，必须勇于迎接问题、解决矛盾、引领和升华我国人工智能实践发展。早有学者指出：“在科学家族中，没有一门学科比AI与哲学的关系更密切……许多没有出路的AI研究，只是因为对哲学家昔日的时代一无所知，才得以维持。”③因此，人工智能问题绝不仅仅是一个技术问题，它本质上是当代人自身的对立、矛盾、斗争和解决。这就决定了人工智能问题是除了科技界，还必须要哲学等人文学科参与进来，一起对待的问题。

世界上每个国家对AI的体验感受和对待解决方式是不同的，我们必须要用自己的理论去发现和解决自己的问题。执古之道，以御今之有。传统哲学特别是中国哲学中尚有许多可挖掘的宝贵资源可供今人借鉴。老子的辩证思维就为我们提供了一种较为开阔通明的精神境地。老子说：“祸兮，福之所倚；福兮，祸之所伏。孰知其极？其无正。正复为奇，善复为妖。人之迷，其日固久。”④古人看到了事物中矛盾对立的双方始终是相反相成，相互依存转化的关系与发展过程。但是人们常常被纠缠着的现实表象所迷惑，无法超拔于事物本质中去做全面、辩证的认识，陷入片面、僵化的认识之中。今天多数人对智能社会、人工智能技术的到来欢呼雀跃，忽视了福祸相依、得失相随、否极泰来的朴素道理。面对人工智能时代到来，我们要清醒看到，智能社会中的得与失始终是合为一体，相互关联着的。当AI代替我们去照看孩子、老人，我们也就难以见证和体验生命的成长和衰落；当AI精确圆满地替我们完成日常生活，我们的生活没有事故也没有了故事，避免了错误也不再用反省，无需自己去解决问题就不会有提高，没有缺陷的生活也便没有了追求和希望。对任何事物，始终保持辩证思考，就是老子留给我们的最大智慧。

智能社会出现的种种矛盾，本质上都是人的欲望与理性之间的对立和矛盾。在亚里士多德那里，欲望本属于非理性部分，但是也可能与理性有关，那就是克制欲望。克制欲望，回归理性，始终不忘形而上的东西，也是老子反复提醒人们注意的地方。当我们欢送物质幸福时代过去，迎接精神丰富的新时代来临之时，还应该始终注意物质生活与精神生活平衡发展。智能社会的提出，显然适应了多数普通人追求精神文化生活的时代需求，但是许多AI伦理问题正是出于人过度的精神方面要求。老子讲的“虚其心、实其腹，弱其志、强其骨”所针对的正是人的这种“为目不为腹”的过度精神欲求。富贵而骄，自遗其咎。在我们奔向更高水平的小康社会时，要时刻注意精神生活的适度和平衡，保持精神追求的向上性，减少不合理的精神欲求。

四、余论

“人类在走向未来，哲学也必将走向未来。未来导引现实是自由自觉人类发展的本质规定。”⑤未来智能社会和AI技术会发展成何种境况还很难预测，但是想象天马行空的科幻电影给了我们一个很好的讨论视域和平台。理论研究者特别是人文学者，更应该具备超前眼光和豁达胸怀，勇于为社会未来发展做出警示，规避风险。

科幻电影中的AI梦魇，其实是人类害怕比自己更高级、更接近神性的智慧物种的主宰。人只有充分认识了自己，正确理解了自己的矛盾，合理解决自己的矛盾，才不会对外界许多新的事物和日益强大的AI感到焦虑。可以预见，在可见的未来，无论怎样发达的智能社会，最智能的、最具智慧的终究只有人类自身。人作为一种“超物之物，超生命的生命，超自然的自然存在”，就在于其具有其他物种所没有的自觉之精神。智能社会，绝不能是人的精神创造性和超越性被扼杀的社会。黑格尔说：“人既然是精神人工智能存在的问题，则他必须而且应该自视为配得上最高尚的东西，切不可低估或小视他本身精神的伟大和力量。”无疑，人必须要依靠人（而不是依靠机器）的智慧，相信人的精神力量，才能朝向智能社会的美好未来走去。

注释：

①所谓超级人工智能，实际上就等同于人类智能，甚至远超于人类智能。

②马克思恩格斯全集（第23卷）[M].北京:人民出版社,1972:204.

③[英]玛格丽特·A.博登（Margaret A. Boden）.人工智能哲学[M].刘西瑞,王汉琦 译.上海:上海译文出版社,2006:486.

④[魏]王弼,[清]魏源 注.老子道德经[M].上海:上海书店出版社, 1986:35.

⑤高清海.高清海哲学文存·续编（第三卷）[M].哈尔滨:黑龙江教育出版社,2003:254.

（作者单位：长春大学）