当前位置:主页 > opus平台官网 >

利来国际娱乐:存在一种识别猫和统治宇宙运行的通用逻辑吗?

存在一种识别猫和统治宇宙运行的通用逻辑吗?存在一种识别猫和统治宇宙运行的通用逻辑吗?

  早在2012年,电脑就已经学会识别YouTube视频中的猫;到了2014年11月,电脑甚至可以将一张照片正确地命名为“一群正在玩飞盘的年轻人”,于是人工智能研究者们欢呼着期盼“深度学习”还会带来更多成就,这套成功的算法效仿了大脑的思维方式,即仅仅通过接触发展出对于真实世界特征的敏感性。

  通过运用最新的深度学习设计,科学家们已经越来越熟练地将人工神经元网络架构的计算机模型应用在图像、语音和模式识别等领域??它们都是与机器个人助理、复杂的数据分析和自动驾驶汽车相关的核心技术。可是,除了训练计算机从其他无关的数据里提取出一些显著特征外,研究人员还从未完全理解这种算法或称之为生物学习的方法为何会行得通。

  有两位物理学家研究发现,某种形式的深度学习,其作用机理就如同物理学中最重要和最普遍的一种数学方法,即一种大尺度物理系统行为的计算方法,它常用于基本粒子、流体和宇宙学的计算。

  我们人类掌握了特殊的诀窍,能够分辨出灌木丛中的一只猫咪,人群中一张熟悉的面孔,或者我们周围被颜色、质地和声音包围的任意目标。这种生物学上的学习过程和机器的深度学习之间的强烈相似性表明,大脑也采用了某种形式的重整化来理解世界。

  “从数据中提取相关的特征,也许这里面存在一种普遍的逻辑,”梅塔表示,“我认为这是一个暗示,它告诉我们或许有类似的东西存在。”

  施瓦布、梅塔和其他研究者认为,在对象或语音识别的背后,物理学家的技巧和学习过程在哲学上具有相似性,上述发现使得这种观点得以正式化。重整化的过程被施瓦布形容为“把一个非常复杂的系统精炼成它的基本部分”,他说:“这也就是深度神经网络和我们的大脑同样在努力做的事。”

  分层学习

  十年前,深度学习似乎并未获得成功。运行程序的计算机模型往往不能识别照片里的对象或音频记录里的口头用语。

  当一个人看到猫穿过草坪时,大脑的视觉皮层会把这个场景分层解析,即每一连续层的神经元进行放电,以响应更大规模且更明显的特点。起初,如果检测到视野区域内的对比差别,即表明物体的边缘或端点位置,视网膜上的神经元就会放电并发出信号。这些信号会传输到更高一层神经元,这些神经元对边缘和其他越来越复杂部分的整合较为敏感。当信号继续向上传递时,比如一根猫胡须的视觉信号可能就匹配上了另一根胡须的信号,opus平台,它们可能会和猫咪那尖耳朵的视觉信号整合,最终触发顶层神经的激活,于是对应了一只猫的概念。

  问题是,在从底层网络层传到顶部类别的过程中,数据开拓路径会花太长的时间。也就是说,算法效率不够高。

  为了复制大脑视觉皮层逐步发育的特征,辛顿将学习算法在他的网络中逐次每层地运行,即先训练每一层的连接,再将输出结果??相当于原始数据更为粗略的表征??作为上一层训练的输入数据,然后再对网络进行整体上的微调,opus平台。这种学习过程的确变得更加高效。很快,深度学习就打破了图像和语音识别领域的准确性记录。谷歌、Facebook和微软也纷纷展开了致力于此的整体研究计划。

  深度学习之所以在很大程度上有效是因为大脑也是如此运作的。这种类比还远不够完善;大脑皮质比人工神经网络更加复杂,其内部网络不停运行着未知的算法。在辛顿的突破出现之后的几年里,深度学习由自身出发,向着各个方向形成了分支,它运用各种在生物学上难以置信的算法,解决了许多学习任务上的难题。现如今,辛顿在多伦多大学和谷歌之间巡回工作,他认为机器学习和生物学习之间存在一个关键原则:“学习的时候,你总是从简单的特征开始,然后基于那些你所学的去理解更复杂的特征,这是一个分阶段的发展过程。”

  从夸克到桌子

  2010年,当时还在普林斯顿大学担任生物物理学博士后研究员的施瓦布,专门乘坐火车到纽约市去听辛顿介绍深度学习的演讲。辛顿提出的逐层训练过程让他很快想起在物理学领域被广泛使用的一种技术,“一种体现何谓物理学的技术”,施瓦布说。

  重整化是一种从微观到宏观的描述物理学系统的系统化方法,它紧扣影响其大尺度行为的要素,并对其余要素进行平均化。令物理学家感到庆幸的是,大多数最微观的细节都是无关紧要的;比如描述一张桌子,我们不需要知道在亚原子层面的所有夸克之间的相互作用。但是,需要一套复杂精巧的近似方案向上跨过距离尺度,一路上放大相关的细节,同时模糊无关的细节。

  施瓦布和梅塔希望在深度学习的数据层次表征里应用这个方法,他们翻来覆去地研究了卡丹诺夫的那篇老论文以及辛顿及其同事们在2006年发表的两篇详细探讨首个深度学习协议的高引用论文。最终,他们找到了如何把一种程序的数学表达映射到另一个程序中去,进而证明了这两种对世界特征总结的机制本质上是相同的。

  为了说明两者的对等性,施瓦布和梅塔训练了一个包含20000例伊辛模型晶格的四层神经网络。从下一层的神经网络到上一层,神经元自发地表征为更大片的自旋区域,并用卡丹诺夫的方法归纳数据。“它从应当进行区域重整化的样本开始学习,”梅塔说。“你不用手把手教它,它自己就能学习,opus平台,这令我们感到震惊。”

  相比类似分形的磁铁晶格,当深度神经网络遇到猫咪的照片时,它可能会使用更多样更灵活的重整化方式。但研究人员推测,它同样会先从像素尺度逐层移动到宠物照片的尺度,剔除或整合数据里与猫咪相关的元素。

  归纳世界

  研究人员希望统计物理学和深度学习领域之间的交叉结合会在这两个领域产生新的进展,但施瓦布认为,“在任一方向上产生杀手级的应用程序”依然言之过早。

  由于深度学习会根据手头的数据进行自我调整,因此研究者希望它能够用于评估对于传统重整化方案而言太过复杂的系统行为,如细胞或复杂蛋白质的聚集过程。这些生物系统往往缺乏对称性,看起来毫无分形特征。对于这些系统,“我们在统计物理学研究中发明出的机械化步骤没有一个能用得上,”内蒙曼说,“但我们仍然知道,既然我们自己的大脑能认知现实世界,那么肯定存在某种粗粒度的描述方法。如果现实世界是不可归纳的,那么这样的描述方法就不会存在。”

  这项研究里还可能包含更深层次的信息。蒂希比就把它看作是重整化的、深度学习和生物学习其实都可以被信息论中的一个理论所囊括。所有这些技术的目的都是为了减少数据冗余,一步一步地将信息压缩到它的本质,以至于在最后的表征中,没有任何字节是彼此相关的。例如,猫咪有许多表达其存在的方式,只是深度神经网络将它们不同的相关性整合在一起,并将之压缩成单个虚拟神经元的形式。“神经网络所做的正是压缩信息,”蒂希比说,“而这也正是深度学习的瓶颈所在。”

  通过将逐层剥离的数学步骤把信息拆分至最简化形式,“这篇论文的确打开了一扇大门,让我们通向非常令人兴奋的领域。”蒂希比说。