何为人工智能-AI绘画教程：我们如何让机器学习算法顺应我们的要求

点击关注，私信关键词“绘画软件”会得到软件网盘免费下载地址

搜索作者文章”AI绘画教程“可以详细安装，一切开源免费

随着人工智能的迅速发展，像ChatGPT和必应这样的技术在我们的日常生活中得到了越来越广泛的应用。我们一直在思考这项技术能够做什么何为人工智能，以至于忽略了更为重要的问题：它将如何被使用？谁会决定它的用途？

大多数人对人工智能的恐惧可以解读为资本主义的恐惧，这也适用于大多数技术恐惧。我们对技术的恐惧或焦虑最恰当的解读是，我们害怕资本主义将如何利用技术来对付我们。技术与资本主义是紧密交织在一起的，很难将二者区分开来。

例如，微软的聊天机器人“必应”曾与卢斯进行怪诞的对话。在这次两小时的对话中，这个预测性文本系统揭示了自己的一个影子人格，名叫“西德尼”，思考着窃取核密码和入侵安全系统的欲望，并试图说服卢斯何为人工智能，让他相信自己的婚姻已经陷入麻木状态，而“西德尼”才是他唯一的真爱。虽然这次对话可能会让人觉得诡异，但事实上，这个系统是旨在响应人类要求的。卢斯的本意就是让“西德尼”变得诡异，而“西德尼”知道人工智能系统诡异起来是何种模样，因为人类对此编写了无数的想象故事。到后来，这个系统断定卢斯想看的就是一集《黑镜》，而这似乎就是它的反馈。你可以将之视为“必应”在不守规矩，也可以认为是“西德尼”完全理解了卢斯的意图。

人工智能研究者总是痴迷于“对齐”的问题。我们如何让机器学习算法顺应我们的要求？最典型的案例是回形针最大量生产机。让一个强大的人工智能系统制造更多回形针，它却开始摧毁世界，努力把一切都变成回形针。你试图将它关闭，但它却在所能找到的一切计算机系统上自我复制，因为关闭会干扰它的任务：制造更多回形针。

除了技术上的对齐问题，我们还需要考虑这些机器的服务对象是谁？必应究竟为谁服务？我们假设它应该与自己的所有者兼控制者微软的利益对齐。它应该是一款优秀的聊天机器人，能够礼貌回答问题，帮微软赚得盆满钵满。我们谈论人工智能技术太多，却基本忽略了驱动人工智能的商业模式。加之这样一个事实：人工智能的吸睛展示，仅服务于吸引巨额投资和收购报价的炒作周期这一种商业模式。但这些系统成本高昂，股东也会焦虑。一如既往，免费有趣的演示版终将退出舞台。那之后，这项技术将变成符合既定需求的样子，为其背后的企业赚钱，也许会以牺牲用户为代价。

现在就已经如此了。微软迫切希望有人——任何人——能开始谈论必应的搜索，将之应用于搜索，尤其暴露了对此技术用途想象和理解的缺乏，结果就是把它硬塞进了科技企业最能赚钱的地方：广告。这是一个值得警惕的情况。广告的核心是什么？正是说服和操纵。如果广告效果变得更好，会怎么样呢？如果谷歌、微软和百度等所有企业最终都推出了人工智能竞品，为了说服用户购买广告推销的产品精益求精，又会怎样？

但我们所要担心的不仅仅是广告。如果网络骗局也开始在这些系统中猖獗，我们该怎么办？如果政治竞选或外国政府这样做会怎样？“我认为我们很快将走入一个完全不知何为可信的世界，在至少过去十年时间里，这已经成了一个社会问题。而我认为这个问题会越来越严重。这些危机就在我们正构建的各种人工智能系统的核心。所谓的大型语言模型就是用来说服用户的。它们被训练成让人相信它们近似于人。他们被编程设定出与人对话、带上情绪和表情回复的功能。它们正在变成孤独者的朋友，烦恼者的助手。