75岁深度学习之父突然离职谷歌：痛悔毕生工作，警告AI会对人类构成「灾难性」威胁

大数据文摘授权转载自AI前线

整理：刘燕、核子可乐  

带着对毕生工作的遗憾和恐惧，“AI 教父”决定离开谷歌 。

Geoffrey Hinton 从谷歌辞职

人工智能教父 Geoffrey Hinton 辞去了工作，并警告这一技术领域的持续发展或将带来巨大风险。 

现年 75 岁的 Geoffrey Hinton 在发给《纽约时报》的声明中证实，他已经正式从谷歌辞职。

《纽约时报》报道称，Hinton 上个月已经向谷歌递交了辞呈，并于上周四直接与谷歌 CEO Sundar Pichai 当面交流。不过目前尚不清楚此次讨论的具体细节。

Geoffrey Hinton 因其在神经网络方面的开创性工作获得“计算机届的诺贝尔奖” — 图灵奖。Geoffrey Hinton 作为“三位 AI 教父”之一，与另外两位合作伙伴共同获得了 2018 年图灵奖，旨在表彰他们为当前 AI 繁荣做出的基础性贡献。

但如今的他却对自己投入一生的研究感到遗憾。

根据《纽约时报》对他的采访，Hinton 最近刚刚辞去在谷歌的工作，也终于可以畅谈 AI 技术背后的风险了。已经在谷歌工作十多年的 Hinton 表示，“我总在用这样的借口安慰自己：哪怕我自己不做，其他人也会这样做。但目前真的不知道要怎么防止坏蛋利用 AI 来作恶。”

虚假信息的传播只是 Hinton 眼下想要强调的风险之一。从长远来看，他担心 AI 会彻底消除一切需要大量记忆的工作，而随着其逐步编写并运行构成自身的代码，AI 也许会最终取代人类。

Hinton 在采访中指出，“其实不少人都相信，AI 实际上能够变得比人类更聪明，但大多数人认为这还很遥远。没错，我也曾经觉得还很遥远，没准要再过 30 年、50 年甚至更久。但现在，我显然没法再这么想了。”

在接受 BBC 采访时，他甚至提到 AI 聊天机器人已经构成“相当可怕”的威胁。“据我所知，目前的 IT 还不比我们聪明，但我相信它们很快就会超越人类。”

此外，Hinton 博士承认自己离开谷歌也有年龄方面的考量，他告诉 BBC“我已经 75 岁，是时候退休了。”

Hinton 博士在神经网络和深度学习方面的开创性研究，为如今包括 ChatGPT 在内的 AI 系统铺平了发展之路。

在人工智能当中，神经网络是一种在信息学习和处理方面与人脑相似的系统。正是神经网络让 AI 能够像人类一样从经验中学习，这就是我们常说的深度学习概念。

谷歌当初收购了一家由 Hinton 和他两名学生共同创办的公司，这位终身学者也由此加入搜索巨头麾下。其中一名学生后来成为 OpenAI 的首席科学家。Hinton 和他的学生们开发了一套神经网络，在分析了数千张照片之后，它成功学会了识别狗、猫和花等常见物体。正是这项工作，最终促成了 ChatGPT 和谷歌 Bard 的诞生。

Hinton 这位认知心理学家兼计算机科学家表示，聊天机器人很快就会超越人脑所能容纳的信息水平。

“现在，我们看到的 GPT-4 等模型已经拥有远超一般人的知识储备，没错，是远远超过。虽然在推理方面还不太好，但 AI 也已经具备了简单的推理能力。”

“考虑到其发展速度，我们预计情况会很快好转。而这正是我们最担心的问题。”

在《纽约时报》的文章中，Hinton 博士提到了那帮打算用 AI“干坏事”的“坏蛋们”。在采访当中，他进一步解释道：“当然，这考虑的是最糟糕的情况，堪称噩梦。”“比方说，大家可以想象某些威权领导者可能给出总体目标，然后任由 AI 机器人制定附属计划。”

这位科学家警告称，此类行为最终可能会让 AI“制定出「我需要获取更多能量」之类的实施计划”。“在我看来，我们正在开发的智能跟人类自身拥有的智能有着明显区别。”

“我们属于生物系统，AI 则属于数字系统。二者最大的区别在于，数字系统之间有着大量相同的权重集和相同的世界模型。”

“所有这些副本既可以各自单独学习，也可以立即实现知识共享。这就好像面对一万个人，每个人都能分别学习知识，而其他人会自动同步掌握这些知识。正因为如此，聊天机器人的信息储备才远远超过一切人类。”

英国高级研究与发明局主席 Matt Clifford 也以个人身份向 BBC 表示，Hinton 博士的声明“凸显出 AI 能力正以惊人的速度加快发展”。“这项技术有着巨大的优势，但人类世界必须在 AI 安全与控制方面紧急投入更多资源。”

与 Hinton 博士一道，还有更多专家加入这个行列，他们纷纷对 AI 的发展速度和方向表达了担忧。

今年 3 月，AI 领域数十人共同署名、科技富豪马斯克高调参与的一封公开信震惊世界，他们呼吁暂停一切比当前版本聊天机器人 ChatGPT 更先进的 AI 模型开发工作，腾出时间设计并实施更强有力的安全控制措施。

与 Hinton 博士及 Yann LeCun 共同因深度学习方面的卓越贡献而获得 2018 年图灵奖的另一位 AI 教父 Yoshua Bengio，也在这封公开信上签下了姓名。Bengio 写道，面对 AI 系统的“意外加速”，“我们需要放缓脚步”。

但 Hinton 博士告诉 BBC，“在短期之内”，他认为 AI 带来的好处还是多于风险，“所以我觉得没必要叫停 AI 模型的开发工作。”

他还提到，如今 AI 已经在各个国家之间引起军备竞赛，所以想要叫停将会困难重重。“即使美国这边全体停手，中国也会继续推进并取得巨大的领先优势。”

Hinton 博士表示，他只是科学专家，并不是政策专家。政府有责任确保 AI 的开发工作“充分考虑到如何阻止其被恶意滥用”。

Hinton 同时在 Twitter 上澄清了自己对谷歌 AI 管理工作的立场：

“在今天的《纽约时报》采访中，记者暗示我离开谷歌是对公司不满。实际上，我离开是为了讨论 AI 的风险，而不是要表达对谷歌的态度。谷歌对待 AI 的态度一直非常负责”。

Hinton 博士强调，他并不想批评谷歌，这家科技巨头已经“极具责任心”。

“我甚至想替谷歌说几句好话。如果我不是谷歌员工，那这些表述应该会更可信。”

根据《纽约时报》的采访，Hinton 对谷歌的 AI 技术管理举措表示赞许，也承认微软将 OpenAI 新成果注入 Bing 的行为直接挑战了谷歌的核心业务，在搜索巨头内部引发了“红色代码”反应。Hinton 感到这股激烈的竞争浪潮恐怕无法平息，最终可能令整个世界充斥着虚假的图像和文字，人类再也无法分辨“什么是真、什么是假”。

谷歌首席科学家 Jeff Dean 则通过声明想要缓和这种担忧，“我们仍致力于对 AI 采取负责任的态度。我们不断学习和研究新出现的风险，与此同时也在大胆创新。”

谷歌首席科学家 Jeff Dean 在一份声明中指出，“我们仍致力于对 AI 采取负责任的态度。我们不断学习和研究新出现的风险，与此同时也在大胆创新。”

更重要的是，AI 聊天机器人还只是 AI 技术的一个小小切片，只不过目前成了风口浪尖上的焦点议题。

AI 技术已经在流媒体平台上决定用户接下来会看到什么内容，也可以在招聘流程中被用于筛选申请人、被保险公司用于计算保费，也可以诊断医疗状况（但最终决策权还是在人类医生手中）。

但如今，我们已经开始感受到通用人工智能（AGI）的兴起，它们能够通过训练完成特定范围内的各类任务。所以尽管目前 ChatGPT 主要通过查询向用户提供文本答案，但其背后同时蕴藏着无穷无尽的可能性。

而且 AI 发展的速度本身甚至令其创造者也感到惊讶。自从 Hinton 博士 2012 年建立起开创性的图像分析神经网络以来，AI 世界已经发生了翻天覆地的变化。

就连谷歌掌门人 Sundar Pichai 也在最近的采访中表示，他也无法完全理解自家 AI 聊天机器人 Bard 所能做到的一切。也就是说，我们正坐在一列高速列车上，而它或许终有一天能够自行建造轨道。

参考链接：

点「在看」的人都变好看了哦！