网上药店
您现在的位置: z理论 >> z理论评价 >> 正文 >> 正文

AI人工智能基础理论的过去现在及发

来源:z理论 时间:2020/2/23

来源:专知

本文回顾了人工智能的发展历史,分析了当前国内外研究现状,指出了目前以深度学习为代表的人工智能基础研究困境。包括可解释性神经网络模型问题、网络模型的结构设计问题、小样本学习问题等。给出了今后人工智能发展趋势,认为基于统计物理思维构建协同学习系统可能是通往通用人工智能的路线之一。

辛欣,北京理工大学计算机学院

郭平,北京师范大学图形图像与模式识别实验室

谈历史,要从盘古开天辟地说起。盘古,又称盘古氏,混沌氏。是中国传说中开天辟地创造人类世界的始祖。最早的记载见于三国时期吴国徐整著《三五历纪》:“天地浑沌如鸡?,盘古?其中。万?千岁,天地开辟,阳清为天,阴浊为地”。“自从盘古开天辟地...”这种说法常比喻空前的,自古以来没有过。但这是民间神话传说,并非科学的天地起源之说。从科学的角度来看,依据“大爆炸宇宙论”(TheBigBangTheory),我们目前认知的宇宙是由大约亿年前发生的一次大爆炸形成的。大爆炸使物质四散出去,宇宙空间不断膨胀,物质密度从密到稀地演化,温度也相应下降。大约在大爆炸后30万年后,化学结合作用使中性原子形成,宇宙主要成分为气态物质,并逐步在自引力作用下凝聚成密度较高的气体云块,直至后来相继在宇宙中演化出所有星系、恒星、行星乃至生命,成为我们今天看到的宇宙。在宇宙演化过程中,大约在46亿年前形成了太阳系以及地球。而随着时间的推移,大约在40亿年前,地球上出现了生命。在“物竞天择、适者生存”自然选择法则下面,地球上的生物从低级到高级、从简单到复杂,经过漫长的时间逐渐演化到目前多物种的生物圈。在生物演化的时间长河中,大约在万年前,人和猿开始分化,以后在由腊玛古猿演化成万年前的南方古猿,进一步再发展为晚期智人(新人)。而大约在4-5万年前人类的进化出现了明显的加速,直至出现了现代人类。人类进化为万物之灵,具有了高智慧的大脑。Intelligence,这个英文单词通常翻译为智能,有时也译为智慧。智能与智慧含义比较接近,但是有区别。可以认为智慧是比智能更高层次的理念,而智能是智力和能力的总称,中国古代思想家一般把智与能看做是两个相对独立的概念,通常认为“智”指进行认识活动的某些心理特点,“能”则指进行实际活动的某些心理特点。自然智能包括人类智能和其他生物智能,因此生物智能是一种天生的能力,可以使生物体在某些环境中探索,开发,适应和生存。有些学者认为具有感知,记忆,自我意识,并能进行一定交流的动物为智能生物,也具有智能。有些学者将智能定义为智慧和能力,从感觉到记忆到思维这一过程,称为“智慧“,智慧的结果产生了行为和语言,将行为和语言的表达过程称为“能力”。根据发育心理学家霍华德·加德纳的多元智能理论,人类的智能可以分成七个范畴:包括语言(Verbal/Linguistic);逻辑(Logical/Mathematical);空间(Visual/Spatial);肢体运作(Bodily/Kinesthetic);音乐(Musical/Rhythmic);人际(Inter--personal/Social);内省(Intrapersonal/Introspective)等。人类在与大自然协同演化过程中,最初为了生存而提高生产力,发明创造了生产工具。我们知道,生产工具的内容和形式是随着经济和科学技术的发展而不断发展变化的。随着科学技术的发展,人类文明不断向前发展。如今科学技术是第一生产力,对社会发展具有推动作用。科技改变了人们的学习工作和日常生活,人类文明也在不断发展,人类从最初的畏惧自然到征服自然,进而认识到要善待自然、与自然和谐相处。恩格斯在《在马克思墓前讲话》(年3月17日)里说过,人们首先必须吃、喝、住、穿,然后才能从事政治、科学、艺术、宗教等等。即一切人类生存的第一个前提,也就是一切历史的第一个前提是生活。为了生产满足人类生活需要的资料,人类自从进化出来的那一天开始,就一直从事着繁重的体力劳动。为了从体力劳动之中解放出来,是最初科学技术发展的动力。从社会进化史中可以看到,为了解放自己的人类,通过技术革命,特别是近代的三次工业技术革命,直接改变了生产方式。为了从繁重的体力劳动之中解放出来,实现高度自动化生产,其关键是发展人工智能技术,实现生产的无人化。只有实现了生产的无人化,人类才能真正的解放出来。人工智能(ArtificialIntelligence--AI)一词,是年在达特茅斯学院举办的一次会议上,由计算机专家约翰麦卡锡(JohnMcCarthy)提出来的。后来,这被人们看做是人工智能正式诞生的标志,年也被当做人工智能的元年。达特茅斯茅斯会议正式确立了AI这一术语后,开始从学术角度对AI展开了严肃而精专的研究。在那之后不久,最早的一批人工智能学者和技术开始涌现,从此人工智能走上了快速发展的道路。最初对人工智能研究的一个主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作。但不同的时代、不同的人对这种“复杂工作”的理解是不同的。目前对人工智能还没有一个精确的,人们普遍可以接受的定义,但按照拟人化的说法目标是希望人工智能能够分担和协助人类的工作。在学科上来说人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。斯坦福大学人工智能研究中心尼尔逊教授认为“人工智能是关于知识的学科怎样表示知识以及怎样获得知识并使用知识的科学。”而麻省理工学院的温斯顿教授认为“人工智能就是研究如何使计算机去做过去只有人类能做的智能工作”。由此可见一种观点认为人工智能是研究人类智能活动的规律,构造具有一定智能的人工系统,研究如何让计算机去完成以往需要人的智力才能胜任的工作,也就是研究如何应用计算机的软硬件来模拟人类某些智能行为的基本理论、方法和技术。在人工智能发展的历史上,不同学科或学科背景的学者对人工智能做出了各自的理解,提出了不同的观点,由此产生了不同的学术流派。期间对人工智能研究影响较大的的主要有符号主义、联接主义和行为主义三大学派:(1)符号主义(Symbolism),又称为逻辑主义、心理学派或计算机学派,其原理主要为物理符号系统(即符号操作系统)假设和有限合理性原理。(2)联接主义(Connectionism),又称为仿生学派或生理学派,其主要原理为神经网络及神经网络间的连接机制与学习算法。(3)行为主义(Actionism),又称为进化主义或控制论学派,其原理为控制论及感知-动作型控制系统。三大学派之一的联接主义学派,认为人工智能实现应该源于仿生学,特别是对人脑模型的研究。其代表性成果是年由生理学家麦卡洛克(McCulloch)和数理逻辑学家皮茨(Pitts)创立的脑模型,即MP模型,开创了用电子装置模仿人脑结构和功能的新途径。从神经元开始进而研究神经网络模型和脑模型,形成了人工智能研究的一大主流。在20世纪60~70年代,联接主义学派代表性成果是罗森布拉特(Rosenblatt)提出的感知机(perceptron)。但以感知机为代表的脑模型的研究出现过热潮,明斯基(Minsky)和佩伯特(Papert)他们指出,感知机连一个简单的XOR(异或)逻辑都实现不了,最简单的模式都无法识别,使得神经网络研究在20世纪70年代后期至80年代初期落入低潮。在年和年霍普菲尔德(Hopfield)教授发表了两篇重要论文,提出用硬件模拟神经网络以后,联接主义才又重新抬头。年韦伯斯(PaulWerbos)在他的博士论文里提出了对神经网络的误差反向传播(BackPropagation--BP)算法,为神经网络发展带来了第一次重大转机。但BP的快速发展与成名,得益于鲁梅意哈特(Rumelhart)等人在“自然”杂志的通信:通过误差传播学习内在表示(LearningInternalRepresentationsbyErrorPropagation)[6](年出版的ParallelDistributedProcessing一书里的一章)。(BP是一种梯度下降算法,原理很简单,就是采用链式法则微分计算误差函数的梯度,解决了多层神经网络的权重优化问题。)在这年之后,联结主义势头大振,在全世界范围内掀起了神经网络研究的热潮。从模型到算法,从理论分析到工程实现,为神经网络计算机走向市场打下基础。年6月21-24号在美国圣地亚哥召开了第一届国际神经网络会议(IEEEFirstAnnualInternationalConferenceonNeuralNetworks),会上甚至有人提出了“人工智能已经死亡,神经网络万岁(AIisdead.LongliveNeuralNetworks)”的口号,可见神经网络的火爆程度。随着国际上神经网络学术研究迅猛发展,我国学者也积极跟进,并与年筹建了中国神经网络委员会,同年12月在北京举办了国内首届神经网络大会,大会主席是罗沛霖院士。罗沛霖院士也是中国神经网络学术研究那时最重要的发起推动人,他在年访问美国时,会晤了人工神经网络的学术权威霍普费尔德(Hopfield)和米德(Mead),回国后便推动这项学术活动。罗沛霖院士促成了由中国电子学会、中国计算机学会、中国自动化学会、中国人工智能学会、中国生物物理学会和中国心理学会等8个国家一级学会(后来增加到15个)成立了中国神经网络委员会筹备委员会。由中国神经网络委员会筹备委员会主办的第二届中国神经网络大会年12月3-6号在南京举行,大会主席是吴佑寿院士和韦钰教授。当时是中华医学会、中国人工智能学会、中国心理学会、中国生物物理学会、中国电子学会、中国电工学会、中国电机学会、中国计算机学会、中国光学学会、中国自动化学会、中国物理学会、中国通信学会和中国数学学会等13个一级学会组成了中国神经网络委员会筹备委员会。当时的口号是“携手探智能,联盟攻大关”,对神经网络学术研究接轨与世界水平充满了希望。并确定年与IEEENeuralNetworkCouncil(神经网络委员会),InternationalNeuralNetworkSociety(国际神经网络学会)联合举办国际神经网络联合大会(InternationalJointConferenceonNeuralNetwork–IJCNN)。由于韦伯斯的BP算法和辛顿等人的Nature论文,使得神经网络研究得以复兴,并有了独立于AssociationfortheAdvancementofArtificialIntelligence(先进人工智能协会--AAAI)之外的,单独成为一个国际学术组织“国际神经网络学会”(INNS)。IEEE的神经网络委员会后来(1年)改名为IEEE神经网络学会(IEEENeuralNetworkSociety)。但是希望越大,失望也越大,由于受到当时的理论模型、生物原型和技术条件的限制,随着日本第五代计算机项目的失败,以神经网络为主的人工智能研究也进入了第二次寒冬。IEEE神经网络学会最后于3年正式改名为今天的IEEE计算智能学会(ComputationalIntelligenceSociety)。计算智能(ComputationalIntelligence--CI)是人工智能发展的新阶段,是受到大自然智慧和人类智慧的启发而设计出的一类解决复杂问题方法的统称[7]。按照维基百科的解释,虽然人工智能和计算智能寻求类似的长期目标:达到通用智能(AGI:一台可以执行人类可以执行的任何智力任务的机器的智能),但是传统人工智能和计算智能之间还是有明显区别的。根据Bezdek()的定义,计算智能是人工智能的一个子集。有时人工智能也称为机器智能,而机器智能包括了两种类型:基于硬计算技术的人工机器智能和基于软计算方法的计算机器智能,它们都能够适应多种情况。通常认为计算智能是在人工神经网络、演化计算和模糊系统三个主要分支发展相对成熟的基础上,通过相互之间的有机融合形成新的科学方法,是智能理论和技术发展的新阶段。新兴的计算智能拓展了传统的计算模式和智能理论,包括了学习理论和概率方法。那些在工程领域中无法用数学模型精确描述的复杂系统,也可以用计算智能算法来建模和求解。我们认为人工智能研究的符号主义、联接主义和行为主义三大学派,在计算智能中或多或少的得到了体现。例如模糊逻辑系统是建立在多值逻辑基础上,模仿人脑的不确定性概念判断、推理思维方式,运用模糊集合和模糊规则进行推理的方法来研究模糊性思维、语言形式及其规律的学科,这代表了符号主义学派的延伸与发展。演化计算(EvolutionComputation--EC)也称进化计算,是借助自然界(生物界)规律的启示,根据其规律,设计出求解问题的算法,其目标是模拟自然演化的过程。主要概念是“适者生存,优胜劣汰”,因此群体智能也归为演化计算。群体智能本身是来自对自然界中昆虫群体的观察,或社会性群居生物“群居性生物通过协作表现出的宏观智能行为特征被称为群体智能”。而行为主义学派认为人工智能源于控制论。控制论早期的研究工作重点是模拟人在控制过程中的智能行为和作用,如对自寻优、自适应、自镇定、自组织和自学习等控制论系统的研究,并进行“控制论动物”的研制,因此行为主义也被称为进化主义。而目前发展势头最猛、风头最盛的深度神经网络(深度学习)就是联结主义学派的延伸。6年,Hinton等人在《科学》上发表了一篇论文(HintonGE,SalakhutdinovRR.Reducingthedimensionalityofdatawithneuralnetworks.Science,6,():-.),文中提出了两个观点:(1)多层人工神经网络模型(MLP)有很强的特征表示能力,深度网络模型学习得到的特征对原始数据有更本质的代表性,这将大大有利于解决分类和可视化问题;(2)对于深度神经网络很难训练达到最优的问题,可以采用逐层训练加微调方法解决。Hinton等人提出深度置信网(DeepBeliefNet:DBN)[HintonGE,OsinderoS,TehYW.Afastlearningalgorithmfordeepbeliefnets.Neural







































北京中科医院是骗子
北京治白癜风那里好一点

转载请注明:http://www.biaozhicarc.com/zllpj/5324.html