根据5月17日的消息，AI教父Geoffrey Hinton参加了一次访谈，提到了他对大型神经网络、多模态学习、模拟计算、AI安全等技术发展的看法，以及他与人工智能的接触经历和与Ilya初次相识的回忆。访谈的提问者是一位才华横溢的创业者Joel Hellermark，他是SanaAI的创始人兼首席执行官。Sana是一家领先的人工智能公司，已经筹集了超过8000万美元的融资。
在访谈中，Hinton谈到了他初次到卡内基梅隆大学的经历。当时他发现实验室的学生们都充满了热情和信心，相信他们的研究将改变计算机科学的发展，这与英格兰截然不同，给他留下了深刻的印象。
在谈到他在剑桥探索脑科学时的感受时，Hinton表达了一些失望，因为学习的内容没有涉及大脑如何工作的根本问题。后来，他转向学习哲学，但同样感到失望，直到他到爱丁堡大学学习人工智能，才开始发现更多有趣的东西。
针对对人工智能感兴趣的方面，Hinton提到了一本关于神经网络连接强度的书对他影响深远。他还读过一本约翰·冯·诺伊曼的书，关注大脑如何计算以及与普通计算机的不同。
在讨论学习神经科学和人工智能算法之间如何分配精力时，Hinton强调需要遵循大脑自身的学习机制，认为大脑不预先编程和逻辑推理来学习并解决复杂任务的。他与特伦斯·谢诺夫斯基以及彼得·布朗进行合作，分享了他们对大脑工作方式的看法，从中获得了很发。
成功＝艰苦劳动＋正确方法＋少说空话 －－爱因斯坦 提出一个问题，往往比解决一个问题更重要。 ——爱因斯坦 天才是百分之一的灵感加百分之九十九的勤奋。 ——爱迪生
当前，国内外互联网巨头纷纷将人工智能作为下一次产业革命的突破口，积极加大投资布局，与此同时，随着人工智能技术进步和基础设施建设不断完善的推动下，全球人工智能应用场景将不断丰富，市场规模持续扩大。
“人工智能”一词最初是在1956年美国计算机协会组织的达特矛斯(Dartmouth)学会上提出的，人工智能发展至今经历过经费枯竭的两个寒冬(1974-1980年、1987-1993年)，也经历过两个大发展的春天(1956-1974年、1993-2005年)。从2006年开始，人工智能进入了加速发展的新阶段，并行计算能力、大数据和先进算法，使当前人工智能加速发展;同时，近年来人工智能的研究越来越受到产业界的重视，产业界对AI的投资和收购如火如荼。
人工智能技术迈入深度学习阶段
机器学习是实现人工智能的一种重要方法，深度学习(Deep Learning)是机器学习(Machine Learning)的关键技术之一。深度学习自2006年由Jeffery Hinton实证以来，在云计算、大数据和芯片等的支持下，已经成功地从实验室中走出来，开始进入到了商业应用，并在机器视觉、自然语言处理、机器翻译、路径规划等领域取得了令人瞩目的成绩，全球人工智能也正式迈入深度学习阶段。
与此同时，全球人工智能领域对新技术的探索从未停止，新技术层出不穷，例如近年来一些新的类脑智能算法提出来，将脑科学与思维科学的一些新的成果结合到神经网络算法之中，形成不同于深度学习的神经网络技术路线，如胶囊网络等，技术的不断进步是推动全球人工智能的发展的不竭动力，这些新技术的研究和应用将加快全球人工智能的发展进程。
主要经济体加快人工智能战略布局
人工智能作为引领未来的战略性技术，目前全球主要经济体都将人工智能作为提升国家竞争力、维护国家安全的重大战略。自2013年以来，包括美国、中国、欧盟、英国、日本、德国、法国、韩国、印度、丹麦、芬兰、新西兰、俄罗斯、加拿大、新加坡、阿联酋、意大利、瑞典、荷兰、越南、西班牙等20多个国家和地区发布了人工智能相关战略、规划或重大计划，越来越多的国家加入到布局人工智能的队列中，从政策、资本、技术人才培养、应用基础设施建设等方面为本国人工智能的落地保驾护航。
Deep learning实际上同时推动了很多领域的发展。 一个我所知道的例子是自然语言处理NLP中词向量（Word Embedding）方法对传统语言模型的提升[1]；而且我相信，deep learning还会进一步推动更多AI领域的发展。 当然，深度学习DeepLearning最为人所关注也表现最明显的，就是使语音、图像识别获得了长足的进步。 其实有的同学已经回答得很漂亮了，只是我忍不住再谈谈自己的理解，抛砖引玉，大家共同讨论。 本着读书人简单问题复杂化……啊呸，是论证完整化的标准，我觉得可以从以下三点递进地解决题主的疑问：1.为什么深度学习突然间火起来了？2.为什么深度学习会应用到语音识别和图像识别中？3.为什么深度学习能成功地应用到语音、图像识别中，取得突破？为了让更多对深度学习感兴趣的朋友看懂，下面我尽可能地用简单的语言来阐述下我的看法（叙述中假设你已经大致知道什么是深度学习和神经网络，了解神经网络的基本原理，顺便认为你已经浏览了其他答案）：==============================我是分割线============================1.为什么深度学习突然间火起来了？谈到这个问题，如果在五六年之前，很多人肯定会说是因为Hinton在Science上的那篇论文“Reducing the dimensionality ofdata with neural networks”。 虽然神经网络“号称”自己可以拟合任何函数，并且可以模拟人脑的运作形式，但是这一切都是建立在神经网络足够深足够大的基础上。 没有了规模，浅层的神经网络啥都达不到。 而人们发现，优化多层神经网络是一个高度非凸的问题，当网络层数太多了之后，训练就难以收敛，或者只能收敛到一个次优的局部最优解，性能反而还不如一两层的浅模型。 这个严重的问题直接导致了神经网络方法的上一次衰败。 在2006年Hinton的那篇文章中，他提出了利用RBM预训练的方法，即用特定结构将网络先初始化到一个差不多“好”的程度，再回到传统的训练方法（反向传播BP）。 这样得到的深度网络似乎就能达到一个不错的结果，从一定程度上解决了之前网络“深不了”的问题。 在这个框架下，深度学习重新得到了人们重视，一批新方法被发明出来（Denoise Autoencoder，Dropout，ReLU……），都让神经网络有了前所未有的“更深”的可能。 但是我们现在再回过头来看这个问题，我们应该加入两个甚至更加关键的元素：大数据和高性能计算在如今的互联网时代，近十年来数据量的积累是爆炸式的。 几年后人们发现，只要有足够多的数据，即便不做预训练，也能使深层网络得到非常好的结果。 而针对卷积神经网络CNN或者LSTM来说，预训练本身也不像全连接那么好做了。 一个技术不能很大地提升性能，还需要researcher辛辛苦苦想算法，需要程序员辛辛苦苦写代码，你说谁干呢……现在的语音识别或图像识别系统，如果拥有大量的训练样本，基本都是没有预训练步骤的。 而高性能计算是与大数据相辅相成的，想象你有好多好多数据（百万幅图片，上万小时语音），但是计算速度跟不上，训练一个网络需要好几年（做机器学习的人应该知道这个完全没有夸张吧），那这个研究也完全不必要做了吧？这也是为什么有人认为神经网络火起来完全是因为GPU使得计算方法更快更好了。 从这个意义上，GPU并行计算的发展确实极大推动了深度学习的普及。 有大数据和高性能计算打下最坚实的基础，人的聪明才智是无穷无尽的。 那些笃信深度学习的学者们使用了各种各样的算法激发深度学习的潜能，比如微软的残差学习[2]。 否则，再多的数据也不能把传统的神经网络训练到152层啊。
