神经网络是人工智能-bp人工神经网络模型 matlab代码
人工智能最早由谁提出?人工智能是什么?历史上有关人工智能的大事件
YangJinZhu2018/9/12
中国通信行业市场前瞻与未来投资战略分析
人工智能最早由谁提出?人工智能是什么?
人工智能(ArtificialIntelligence)这个词最早是在1956年美国的Dartmouth会议上提出的,当时参加会议的包括明斯基、西蒙、麦卡塞等一些计算机领域的专家。关于人工智能的定义,不同的教科书中往往会有不同的解释。其中有一种比较简单、易于理解的定义,就是人工智能指的是“能够和人一样进行感知、认知、决策、执行的人工程序或系统。”
另外一个关于人工智能值得探讨的关键问题,就是人工智能和机器人的关系,即人工智能和机器人是不是一回事?人工智能研究的专家往往来自计算机科学领域,他们所研究的是数字世界和虚拟世界,也就意味着他们所说的感知、认知、决策和执行,全部是在数字世界里面执行的。但同时有另外一些研究机器人科学的专家,他们是在物理世界和真实世界中探求能否实现这样的机制。他们要解决的是机械手、机械控制,他们要做的是在真实世界里面做感知、认知、决策和执行,所以说他们的执行一定要有物理实体。比方说针对“在家中客厅遥控关闭卧室灯”这样一个问题,人工智能专家和机器人专家往往会采用不同的方法。人工智能的专家会考虑在手机上做个软件,通过互联网连到卧室里的智能装置,然后把卧室中的开关连上物联网,这样就可以用手机遥控将电灯关掉,这一过程是在虚拟世界中可以完成的。但是对于一个机器人专家,他可能会做一个爬楼梯的机器人,然后给机器人下达指令,机器人接到指令就会跑到卧室去把灯关了神经网络是人工智能,这个过程是要在物理世界里面来完成的。所以从本质上来讲“人工智能”和“机器人”二者是非常接近的,但是其背景是不一样的。
人工智能的第三个关键问题是它的学科基础。人工智能的软件实现涉及计算机科学、信号信息处理及统计模式识别等若干学科。计算机科学包括算法、网络等;信号处理涉及傅里叶分析、拉普拉斯变换及其他时空分析方法;统计模式识别依赖概率论和数理统计,我们现在使用的深度神经网络(Deep Neural Network,DNN)和统计模式识别的算法来自这里。人工智能专家往往有着计算机科学和电子工程的背景。但是机器人领域往往强调控制论,包括卡尔曼滤波、自动控制原理、机械控制理论等。机械控制理论中又有很多机械原理是涉及物理规则的。从中也可以看出,人工智能和机器人是两个相互关联又有区别的研究领域。
历史上有关人工智能的大事件:
1308年,加泰罗尼亚诗人兼神学家者雷蒙·卢尔(Ramon Llull)出版《The Ultimate General Art》,详细描述了其“逻辑机”的概念。声称能够将基本的,无可否认的真理通过机械手段用简单的逻辑操作进行组合,进而获取新的知识。他的工作对莱布尼兹产生了很大影响,后者进一步发展了他的思想。
1666年,数学家和哲学家莱布尼茨(Gottfried Leibniz)出版了《On the Combinatorial Art》,继承并发展了雷蒙·卢尔的思想,认为通过将人类思想编码,然后推过推演组合获取新知。莱布尼茨认为所谓思想本质上是小概念的组合。
1726年,英国小说家乔纳森·斯威夫特(Jonathan Swift)出版《格列佛游记》。小说中描述了飞岛国里一台类似卢尔逻辑机的神奇机器:“运用实际而机械的操作方法来改善人的思辨知识”,“最无知的人,只要适当付点学费,再出一点点体力,就可以不借助于任何天才或学力,写出关于哲学、诗歌、政治、法律、数学和神学的书来。”
1763年,托马斯·贝叶斯(Thomas Bayes)创造了一个推理事件概率的框架。贝叶斯推断是机器学习的理论先导。
1854年,乔治·布尔(George Boole)认为逻辑推理过程可以像解方程式一样进行。
1898年,在麦迪逊广场花园举行的电气展览会上,尼古拉·特斯拉(Nikola Tesla)展示了世界上第一台无线电波遥控船只。特斯拉称他的船配备了“借来的大脑”。
1914年,西班牙工程师莱昂纳多·托里斯·克维多(Leonardo Torres y Quevedo)示范了全球第一台自动象棋机。能够在无人干预的情况下自动下棋。
1921年,捷克作家卡雷尔·恰佩克(Karel ?apek)在其戏剧《Rossum’s Universal Robots》中首次使用“机器人(robot)”一词。这个词是从波兰语“robota(工作)”变化而来。
1925年,无线电设备公司Houdina Radio Control造出了第一台无线电控制的无人驾驶汽车,并开上了纽约的街道。
1927年,科幻电影《大都会》(Metropolis)上映。影片中一个女性机器人在2026年的柏林引起混乱。这是机器人形象第一次登上大荧幕。本片还启发了后世《星球大战》中“C-3PO”的角色。
1929年,西村真琴(Makoto Nishimura)设计了“Gakutensoku”,标志着日本的第一个机器人诞生。Gakutensoku可以改变面部表情,并通过气压机制移动头和手臂。
1943年,沃伦·麦卡洛克(Warren S. McCulloch)和沃尔特·皮茨(Walter Pitts)在《数学生物物理学公告》上发表了《神经活动中内在思想的逻辑演算》(A Logical Calculus of the Ideas Immanent in Nervous Activity)。这篇论文影响甚广,讨论了理想化和简化的人工神经网络以及如何执行简单的逻辑功能。这启发了后来神经网络和深度学习的产生。
1949年,埃德蒙·伯克利(Edmund Berkeley)出版了《Giant Brains: Or Machines That Think》。书中写道:“最近有许多关于巨型机器的新奇传闻,称这种机器能极快速和熟练地处理信息……这些机器就像是用硬件和电线组成的大脑……一台可以处理信息的机器,可以计算、总结和选择。还可以基于信息作出合理操作。称这样一台机器能思考并不为过。”
1949年,唐纳德·赫布(Donald Hebb)发表《Organization of Behavior: A Neuropsychological Theory》。赫布理论描述了学习过程中人脑神经元突触之间发生的变化。
1950年,克劳德·香农(Claude Shannon)发表《编程实现计算机下棋》(Programming a Computer for Playing Chess),这是人类第一篇研究计算机象棋程序的文章。
1950年,阿兰·图灵(Alan Turing)发表《Computing Machinery and Intelligence》。文中提出的“模仿游戏”后来被称为“图灵测试”。
1951年,马文·明斯基(Marvin Minsky)和迪恩·爱德蒙(Dean Edmunds)建立了“随机神经网络模拟加固计算器”SNARC。这是人类打造的最一个人工神经网络,用了3000个真空管来模拟40个神经元规模的网络。
1952年,阿瑟·萨缪尔(Arthur Samuel)开发第一个计算机跳棋程序和第一个具有学习能力的计算机程序。
1955年8月31日,“人工智能”(artificial intelligence)一词在一份关于召开国际人工智能会议的提案中被提出。该份提案由约翰·麦卡锡(达特茅斯学院)、马文·明斯基(哈佛大学)、纳撒尼尔·罗彻斯特(IBM)和克劳德·香农(贝尔电话实验室)联合递交。一年后,达特矛斯会议召开,这次会议被认为是开辟了人工智能这个研究领域的历史性事件。
1955年12月,赫伯特·西蒙(Herbert Simon)和艾伦·纽厄尔(Allen Newell)开发出“逻辑理论家”,这是世界上第一个人工智能程序,有能力证明罗素和怀特海《数学原理》第二章52个定理中的38个定理。
1957年,弗兰克·罗森布拉特(Frank Rosenblatt)打造出“Perceptron”,能够基于两层计算机网络进行模式识别。纽约客称赞它是“了不起的机器”。
1958年,约翰·麦卡锡(John McCarthy)开发编程语言Lisp。之后Lisp成为人工智能研究中最流行的编程语言。
1959年,阿瑟·萨缪尔(Arthur Samuel)创造了“机器学习”一词。在文章中他说:“给电脑编程,让它能通过学习比编程者更好地下跳棋。”
1959年,奥利弗·赛弗里奇(Oliver Selfridge)发表《Pandemonium:A paradigm for learning》。描述了一种计算的模型,计算机可以通过这种模型获得识别新模式的能力。
1959年,约翰·麦卡锡(John McCarthy)发表《Programs with Common Sense》。提出“Advice Taker”概念,这个假想程序可以被看成是第一个完整的人工智能系统。
1961年,第一台工业机器人Unimate开始在新泽西州通用汽车工厂的生产线上工作。
1961年,詹姆斯·斯拉格(James Slagle)开发了一个符号积分程序SAINT。这个启发式程序可以解决计算中符号整合的问题。
1964年,丹尼尔·鲍勃罗(Daniel Bobrow)完成了他的麻省理工博士论文《Natural Language Input for a Computer Problem Solving System》。同时开发了一个名叫“STUDENT”的自然语言理解程序。
1965年,赫伯特·西蒙(Herbert Simon)预测20年内计算机将能够取代人工。
1965年,赫伯特·德雷福斯(Herbert Dreyfus)出版了《Alchemy and AI》,对人工智能研究提出了重大理论质疑。
1965年,古德(I.J.Good)在《Speculations Concerning the First Ultraintelligent Machine》中提出人工智能威胁论。认为超智能机器将会超越人类的控制。
1965年,约瑟夫·维森班(Joseph Weizenbaum)开发了互动程序ELIZA,能够就任何话题展开对话。
1965年,费根鲍姆(Edward Feigenbaum)、布鲁斯?布坎南(Bruce G.Buchanan)、莱德伯格(Joshua Lederberg)和卡尔·杰拉西(Carl Djerassi)开始在斯坦福大学研究DENDRAL系统。这是历史上第一个专家系统,能够使有机化学的决策过程和问题解决自动化。
1966年,机器人Shakey是第一个通用型移动机器人,能够按逻辑推理自己的动作。生活周刊在一篇评论文章中引用明斯基的预言:“3~8年内,机器就将达到普通人的智能水平。”
1968年,电影《2001太空漫游》上映。片中突出刻画了“哈尔”,一个有感情的电脑。
1968年,特里·维诺格拉德(Terry Winograd)开发了SHRDLU,一种早期自然语言理解程序。
1969年,阿瑟·布莱森(Arthur Bryson)和何毓琦(Yu-Chi Ho)描述了反向传播作为一种多阶段动态系统优化方法,可用于多层人工神经网络。后来当计算机的运算能力已经足够现金到可以进行大型的网络训练时,它对2000年至今深度学习的发展做了突出贡献。
1969年,马文·明斯基(Marvin Minsky)和西摩尔·帕普特(Seymour Papert)发表了《Perceptrons: An Introduction to Computational Geometry》。描述了简单神经网络的局限性。在1988年的扩充版中,两位作者认为他们1969年的结论大大减少了投资神经网络的资金。“我们认为研究已经停滞,因为基本理论缺……六十年代对感知器进行了大量实验,但没有人能弄清它的工作原理。”
1970年,日本早稻田大学造出第一个人形状机器人WABOT-1。它由肢体控制系统、视觉系统和对话系统组成。
1972年,斯坦福大学开发出名为“MYCIN”的专家系统。能够利用人工智能识别感染细菌,并推荐抗生素。
1973年,詹姆斯·莱特希尔(James Lighthill)在给英国科学研究委员会所做的报告中称:“迄今为止,人工智能的研究没有带来任何重要影响。”结果政府大幅度削减了对AI研究的资金支持。
1976年,计算机科学家拉吉·瑞迪(Raj Reddy)发表《Speech Recognition by Machine: A Review》。对自然语言处理的早期工作作了总结。
1978年,卡内基梅隆大学开发了XCON程序。这是一个基于规则的专家系统,能够按照用户的需求,帮助DEC为VAX型计算机系统自动选择组件。
1979年,斯坦福大学的自动驾驶汽车Stanford Cart在无人干预的情况下,成功驶过一个充满障碍的房间。这是自动驾驶汽车最早的研究范例之一。
1980年,日本早稻田大学研制出Wabot-2机器人。Wabot-2能够与人沟通、阅读乐谱并演奏电子琴。
1981年,日本国际贸易和工业部提供8.5亿美元用于第五代计算机项目研究。该项目旨在开发能像人类一样进行对话、翻译、识别图片和具有理性的计算机。
1984年,电脑梦幻曲(Electric Dreams)上映。讲了一个发生在男人、女人和一台电脑之间的三角恋故事。
1984年,在年度AAAI会议上,罗杰·单克(Roger Schank)和马文·明斯基(Marvin Minsky)警告“AI之冬”即将到来。预测AI泡沫的破灭(三年后确实发生了),投资资金也将如70年代中期那样减少。
1986年,第一辆无人驾驶奔驰汽车在恩斯特·迪克曼斯(Ernst Dickmanns)的指导下建造。这辆车配备照相机和传感器,时速达到每小时55英里。
1986年10月,大卫·鲁梅尔哈特(David Rumelhart)、杰弗里·辛顿(Geoffrey Hinton)和罗纳德·威廉姆斯(Ronald Williams)发表了《”Learning representations by back-propagating errors》。描述了一种新的学习程序,可用于神经元样网络单位的反向传播。
1987年神经网络是人工智能,随着时任首席执行官约翰·斯卡利(John Sculley)在Educom大会上的演讲,苹果未来电脑“Knowledge Navigator”的设想深入人心。其中语音助手、个人助理等预言都在今天成为了现实。
1988年,朱迪亚·珀尔(Judea Pearl)发表了《Probabilistic Reasoning in Intelligent Systems》。珀尔因其人工智能概率方法的杰出成绩和贝氏网路的研发而获得2011年图灵奖。
1988年,罗洛·卡彭特(Rollo Carpenter)开发了聊天机器人Jabberwacky,能够模仿人进行幽默的聊天。这是人工智能与人类交互的最早尝试。
1988年,IBM沃森研究中心发表了《A statistical approach to language translation》,预示着从基于规则的翻译向机器翻译的翻译方法的转变。机器学习无需人工提取特征编程,只需大量的示范材料,就能像人脑一样习得技能。
1988年,马文·明斯基(Marvin Minsky)和西摩尔·帕普特(Seymour Papert)出版了两人1969年作品《Perceptrons》的扩充版。在序言中指出,许多AI新人在犯和老一辈同样的错误,导致领域进展缓慢。
1989年,燕乐存(Yann LeCun)和贝尔实验室的其他研究人员成功将反向传播算法应用在多层神经网络,实现手写邮编的识别。考虑到当时的硬件限制,他们花了三天来训练网络。
1990年,罗德尼·布鲁克斯(Rodney Brooks)发表了《lephants Don't Play Chess》。提出用环境交互打造AI机器人的设想。
1993年,弗农·温格(Vernor Vinge)发表了《The Coming Technological Singularity》。认为三十年之内人类就会拥有打造超人类智能的技术。不久之后人类时代将迎来终结。
1995年,理查德·华莱士(Richard Wallace)开发了聊天机器人“A.L.I.C.E ”。灵感来自威森鲍姆ELIZA,不过互联网的出现给华莱士带来了更多的自然语言样本数据。
1997年,赛普·霍克赖特(Sepp Hochreiter)和于尔根·施密德胡伯(Jürgen Schmidhuber)提出长短期记忆人工神经网络(LSTM)概念。这一概念指导下的递归神经网络在今日手写识别和语音识别中得到应用。
1997年,IBM研发的“深蓝”(Deep Blue)成为第一个击败人类象棋冠军的电脑程序。
1998年,戴夫·汉普顿(Dave Hampton)和钟少男(Caleb Chung)创造了宠物机器人Fury。
1998年,燕乐存(Yann LeCun)和约书亚·本吉奥(Yoshua Bengio)发表了关于神经网络应用于手写识别和优化反向传播的论文。
2000年,MIT的西蒂亚·布雷泽尔(Cynthia Breazeal)打造了Kismet,一款可以识别和模拟人类情绪的机器人。
2000年,日本本田推出具有人工智能的人性机器人ASIMO。ASIMO能像人一样快速行走,在餐厅中为顾客上菜。
2001年,斯皮尔伯格的电影《人工智能》上映。电影讲述了一个儿童机器人企图融入人类世界的故事。
2004年,第一届DARPA自动驾驶汽车挑战赛在莫哈韦沙漠举行。不幸的是参赛的自动驾驶汽车中没有一辆能够完成150英里的全程。
2006年,奥伦·艾奇奥尼(Oren Etzioni)和米歇尔·班科(Michele Banko )在《Machine Reading》一书中将“机器阅读”一词定义为“一种无监督的对文本的自动理解”。
2006年,杰弗里·辛顿(Geoffrey Hinton)发表《Learning Multiple Layers of Representation》,不同于以往学习一个分类器的目标,提出希望学习生成模型(generative model)的观点。
2007年,李飞飞(Fei Fei Li )和普林斯顿大学的同事开始建立ImageNet。这是一个大型注释图像数据库,旨在帮助视觉对象识别软件进行研究。
2009年,谷歌开始秘密研发无人驾驶汽车。2014年,谷歌汽车在内华达州通过自动驾驶汽车测试。
2009年,西北大学智能信息实验室的计算机课学家开发了Stats Monkey,一个无须人工干预能够自动撰写体育新闻的程序。
2010年,ImageNet大规模视觉识别挑战赛(ILSVCR)正式举办,这项比赛是为了比较谁个家在影像辨识和分类方面的运算科技较。
2011年,一个卷积神经网络赢得了德国交通标志检测竞赛。机器正确率99.46%,人类最高分为99.22%。
2011年,IBM超级电脑沃森在美国老牌益智节目“危险边缘”(Jeopardy!)中击败人类。
2011年,瑞士Dalle Molle人工智能研究所报告称,使用卷积神经网络的手写识别误差率可以达到0.27%,比几年前的0.35%~0.40%有所改善。
2012年6月,吴恩达(Andrew Ng)和杰夫·迪恩(Jeff Dean)做了一份实验报告,他们给一个大型神经网络展示1000万张未标记的网络图像,然后发现神经网络能够识别出一只猫的形象。
2012年10月,多伦多大学设计的卷积神经网络在ImageNet大规模视觉识别挑战赛(ILSVCR)中实现了16%的错误率。比前一年的最佳水平(25%)有了明显提高。
2016年3月,谷歌DeepMind研发的AlphaGo在围棋人机大战中击败韩国职业九段棋手李世乭。