【深度学习】这才是深度学习的本源

大家好。现在人工智能对科学发展起着推波助澜的作用，如虎添翼，我们今天讨论的话题，就是这样普适的内容。

我们先回顾一下过去的250年。英国的工业革命兴起后，蒸汽机的发明增强了人类使用动能的能力，一个蒸汽机就能取代一百个劳动力。

当时，世界上的大部分人口，仍在农场进行手工劳动，可这样一来，手工劳动都被蒸汽机取代了。蒸汽机极大程度地替代了人工劳动力。

工业革命也带来人口迁移，人们从乡村转移到城镇。工业革命为社会带来极深远的影响。

从过去的250年可以看到，一系列的工业革命，使科学技术大范围地使用，各种技术层出不穷，这些技术深刻影响我们生活的方方面面。

当然这也有不少缺陷。几十年来，比如说工业革命时期的伦敦，有着大量的雾霾、烟尘，这是因为使用了以煤为驱动的蒸汽机所导致的。

在煤厂工作的煤炭工也饱受着呼吸疾病折磨，这是技术带来便利的同时，也要面临的挑战。怎么进行空气治理，减少呼吸疾病，就是一大挑战。

技术发展的同时，也需要处理技术带来的后果。我们现在正面临的人工智能技术也不例外。

▲ 长按图片分享给需要的人

大家会听到很多科技热词，我来简单介绍一下：

人工智能。这个名词诞生于1956年，目标就是在机器上模仿人类智能。这是一个非常大的目标，我们至今仍然没有达到这个目标。

在人工智能范畴内，有一个子范畴快速增长，就是机器学习。机器学习是以另一种方向发展人工智能。

但机器学习的路径是不一样的。我们通过收集大量数据、通过机器进行学习，利用数据结构化进行学习，学习图像对象、语言、词语序列等等。

在机器学习范畴，又另有一个方法学，就是特定算法。这是受到大脑启发触动的一个方向。

我们的大脑是一个非常复杂的设备，负责收集信息，有数千亿的脑神经元，来进行信息传递。

目前我们仍然不了解大脑的内部运作，但是我想说，深度学习的灵感就来自大脑运作机制。

▲ 学习与编程的权衡

红线是编程线，如果要雇一个程序员给你解决问题，这个成本从1980年到2040年，成本都是逐年增加的。编程员是很贵的，而且需要专家级的编程员。

所以相对来说，从发展开始，我们的机器学习，从上世纪80年代开始，成本就非常高，电脑非常贵。 但是现在的人工智能、机器学习，成本不断下降。

2012年，机器学习算法跟编程的成本大致相同，从2012年开始就逐年下降。

我们使用不同的数据组，不需要完全了解这个领域的知识，只要获得大量实例数据，我们的机器就可以通过特定的学习算法不断解决困难。

我们使用神经网络处理系统，在30年前就提出“神经网络模式”的理论。脑神经网络可以有效处理复杂的数据组，也有能力处理上亿的图像数据。

人类的大脑机制，是一个非常简单的版本，大脑里有很多神经元，大概上千亿个，但它们是平行工作的，这和数字化电脑不一样。

电脑是有处理器的，是有内存的。记忆实际上是神经元之间的连接，也就是在突触中存在，十的十次方个神经元，就有十个十次方个连接。

大脑里突触的数量非常多，也就是说大脑内存是巨大的，可以储存非常多的数据，这是大脑的好处。问题是人脑是毫秒级传输速度，所以和电脑比慢很多。

在自然中，人脑没有这么多处理层，而且电脑计算速度更快，是因为我们居住的世界就是毫秒级的世界，不需要这么快的速度。

我们在大脑中的信息传递，是非常复杂的过程。信息的储存、处理等等，都是我们要解决的一大串问题，这才是最关键的。

还有一些挑战，比如说有很多神经元、有突触等等，最终是围绕着中枢神经系统，这是最重要的一个器官。

我们要知道，某一个连接的改变是否会改变信息的输入和输出？如果把这个连接改变了，就会受到影响。

当时杰弗里和我一起，得出神经算法，也就是怎么样才能让突触处理正确的神经传递。

在这之前，几乎所有的科学家和工程师觉得这是不可能的。但我想告诉一些年轻人：

你不要相信专家说的话，因为很多专家总是知道这个事情不能做的原因，但是不知道这个事情可以做成的方法。

所以我们发明了玻尔兹曼机，今天在网络神经学习中还在使用。

深度学习网络是怎样的？举个例子：一边是输出，是要对疾病进行诊断，另一边是各种各样的输入，对于医生来说，看了就可以得出诊断。

每一个信息点就是神经节点，最希望有一个架构师能让这些信息一层层传递到输出端，可以有效地诊断这是什么疾病。

帮助病人治病，我们需要大量的病历输入才可以做到这一点，而且必须从已经确诊的病人那里获得信息，这才是有效的输入。

机器不是说要去记住这些东西，将其泛化，因为不同人给出的输入不一样，人脑可以进行非常好的泛化，这是我们希望让机器做到的事情。

杨立昆他们设计多层架构，使用早期的卷积神经网络，最终他们就有了识别物体的功能。

还有就是网络中的单元，模仿人的大脑，而且有阈值，如果低于这个阈值就没有输出，高于这个阈值才有。

之后他们还进行了一系列的实验，进行了很多技术上的工作。

这是2012年的时候，ImageNet比赛，这是一个深度学习应用。这个网络里有概率分布，第一张图，大家最高概率猜的是老鼠，我可能也猜不出是虫，以为是蜘蛛。

后面也是猜图片，不同人看到的是不同面。我们看出，在性能级别上，深度学习能够在计算机识别方面，把误差率下降20%，这已经非常厉害了。

而且这是经过很多年才有的成果，但是对于某一些图像依然无法准确识别。关键是要不断进行改善、演化。

今年图灵奖颁给我的朋友杨立昆、约书亚·本吉奥、杰弗里·辛顿，这相当于诺贝尔级别了，是对他们在深度学习里非常大的鼓励。

我书中的一个章节写到：皮肤病医生看病，检查病人的病到底是癌症还是良性的，已经治疗了2000例皮肤病的医生收集的数据，用来做训练集。

这是WAYMO自动驾驶汽车，舆论让你感觉明天就可以做成，其实要做几十年时间，因为有很多路况和复杂因素需要攻克和优化。

这辆汽车搭载了很多雷达和传感器，180度的传感器不像我们人类的视觉，只能看前方，它可以有180度的视角。

现在无人驾驶汽车的应用场景非常受限，我们看一下有可能的一些场景——

如果我们能一键启车，就可以提高车辆使用率，如果无人驾驶汽车能够实现这单，就可以重新规划停车场和停车道。

我们还可以更进一步畅想，盗车时代会被终结； 此外还有一些新的就业岗位生成，很多人说卡车司机要失业了，不会的，我们如果使用无人驾驶的卡车，也要人去控制的。

卡车司机的角色可以转化为安全监测，这个岗位比开卡车好得多，而且更舒服。

接下来举一个语言翻译的例子。语言翻译在中国有几千个语种，互相不能理解，所以我们训练机器预计下一个字词出现，这时候不需要分类数据，是非监督学习。

这种叫做文字嵌入。如果机器能够训练得很好，我们期望的是学习内模通过自己的活动运算，可以了解和解构整个语义，同时要识别出大写的专有名词，非常有趣。

20世纪语言学主要领域主要是词法上做很多研究，其实语言最重要的就是语义理解、语义解构，词与词的关系，这些词组排列完后是怎样的意思，这是语义。现在人工智能已经往这个方向深化。

人工智能驱动的翻译技术有多么的神奇，这是我们取得的另一个进展。

这是语言网络，有三个语种——英、韩、日，从英语翻译为韩语、日语都做了实验，但是还没有韩语翻译为日语。

机器在一定程度上通过学习，其实可以韩翻日，也就是说你的训练更多，语言组越多，训练得越好，网络就可以更加相通，机器的翻译就能够学习得更好。

所以我们这种语言学网络，可以给予我们更多的洞见，可以让我们更加理解各语种之间的转化和翻译机理。

我们大脑在运算的时候，总是需要大脑海马体和皮层运作，我给大家分享一个概念，就是强化学习：

怎么样通过增强学习达成目标？这个模式就是阿尔法狗怎么打败柯洁的秘密。

我再分享一点，是最近在无监督学习中的一大突破，前提是需要大量数据组。

就像我们的大脑，我们大脑也会不断生成信息，我们坐在那里，就会有各种各样的想法出现。

现在我们到哪一步了？还是在初期，就好像是莱特兄弟做了第一台飞机的时候，离喷气式飞机还有很长一段路要走。

我们从自然当中可以学到很多东西，莱特兄弟研究了自然，研究了鸟，然后他们发现：

大自然是这样解决问题的，而且要解决这些困难的问题并不难，大自然已经会了，大自然中已经蕴含着解开这些奥秘的钥匙了。

我们还处于很早期的阶段，但是也在不断地进步。非常感谢各位的参与和聆听，我们还处于人工智能的早期阶段，还有很多问题需要解决。

▲ 长按图片，分享给需要的人

我们也看到了非常令人兴奋的成就和成果，恐怕有一些问题要花很多年才能解决，甚至需要几代人努力。

但是回顾一下工业革命，一切成功全都不是一夜之间发生的，而是经过几代人努力才实现的。

所以各位，你们的孩子会从你们手中接过这个成果，从充满AI的世界中长大。那时候就像大家今天看到飞机一样，人工智能会非常的普遍。谢谢各位。