图灵奖得主论教育与AI：为什么ChatGPT不具备“可教育性”？

加星标，才能不错过每日推送！方法见文末动图

人工智能技术的发展引发了诸多忧虑，人们担心，某一天AI会比人类更加“智能”。甚至早在1965年，图灵的一位合作者I.J.古德就提出了这种观点：“超智能（ultraintelligent）机器是可以超越任何人类智力活动的机器。既然机器的设计也是这些智力活动之一，超智能机器也就可以设计出更好的机器；那么毫无疑问会发生“智能爆炸”，人类的智慧将远远落后。”

然而，在这些讨论的背后，我们依然没有解释清楚，“智能”这一概念究竟是什么？它能代表人类的本质独特性吗？如果不澄清这些问题，我们就难以对人工智能的发展进行有效讨论。在 The Importance of Being Educable 一书中，作为图灵奖获得者和计算机科学家的 Leslie Valiant 对此进行了反思。作者提出，人类大脑卓越的“可教育性”，作为一种信息处理能力，使人类物种与众不同。这种独特的能力一直是我们成就和文明的基础，尽管在判断信息可信任性方面存在挑战，这种能力仍然赋予了我们引导世界沿稳定轨道行进的力量。在人工智能技术迅速发展的当下，要捍卫我们的共同未来，人类必须重视和完善教育系统，更好地发挥可教育性的潜能。

*下文编译或概括自 The Importance of Being Educable 原书内容。

可教育性：人类区别于其他物种的独特能力

我们生活在一个以智能（intelligence）为驱动力的文化中。我们对心智能力衡量的结果被称为智商（intelligence quotient）；试图用计算机模仿我们的心智能力的产物被称为人工智能（artificial intelligence）；在探索宇宙时，我们在寻找智慧生命（intelligent life）......尽管如此，人们尚未达成对“智能”或“智力”广泛接受的定义，它仍只是一个并不清晰的想法。

当1904年，心理学家查尔斯·斯皮尔曼发表有关对智力进行“客观确定和测量”的论文时，他的方法是收集儿童在学校的表现的数据，在发现不同学科的表现存在高度相关性后，他推测“所有智力活动的分支都有一个共同的基本功能（或功能组）”。他所说的“基本功能”成为后来智商测试声称要测量的“通用智力（general intelligence）”或“g因子（g factor）”。然而，斯皮尔曼对“g因子”的定义并不明确，这一概念没有阐明一个智力高的人应有的行为表现，而是通过统计分析间接得出的。他的定义是隐性的统计定义，而不是显性的行为说明。例如，他检测到的g因子实际上可能对应于父母的收入，而非真正的能力水平。

“智力”这一概念对我们了解自身并没有很大的实质性帮助。我们能否找到更有益的概念？

在 The Importance of Being Educable 一书中，作者提出了可教育性（educability）作为替代方案。可教育性是从个人经验和他人那里学习和获取认知体系的能力，并将这些认知体系应用于新情境中。认知体系可以是科学或政治理论、宗教、迷信，或虚构作品中的叙述。

可教育性的力量源于这样一个事实：如果能够从他人那里传递知识，个体可以获得的知识远远超过仅凭个人经验和努力所能发现的知识，而拥有经过无数世代的人们发现的知识。这种力量是那些缺乏可教育性的物种所无法获得的。语言、言语以及将信息记录在石板或纸上的做法伴随着文明的发展，并明显促进了文明的进步，但这些技术发挥作用的基础是我们的可教育性：记录知识的技术和沟通的能力本身的力量是有限的；然而，对于具有可教育性的人来说，它们提供了无限制使用知识的力量。

16世纪，泰科·布拉赫（Tycho Brahe）在夜晚观察天空，并在几十年间系统地收集行星位置的数据。他去世后，前助手约翰内斯·开普勒（Johannes Kepler）使用这些数据推导出行星轨道是椭圆形的。开普勒起初只需阅读布拉赫整理的数据表格，而不必重复观测。他的发现所必需的数学概念——椭圆，在近两千年前的古希腊就已被知晓。此外，开普勒需要对第三定律进行复杂的计算，为此他使用了约翰·纳皮尔（John Napier）在苏格兰发表的对数方法。开普勒能够利用包括数据和数学原理在内的所有知识，而这些都是他不可能自己从头观察和推导出来的。通过正规教育和自我教育的结合，他能够利用前人用毕生努力获得的成果。理解行星轨道是椭圆形的这一发现是人类最重要的成就之一，对科学的后续发展产生了决定性的影响，而正是开普勒吸收和应用前人知识的能力使这一切成为可能。

总之，可教育性是一种解释性的区别特质，这种特质不仅使人类与众不同，还解释了我们为什么以及如何能够创造出现代技术文明，填补了我们对人类进化、认知测量、科学基础教育、人类认知选择和人工智能的理解中的空白。

可教育性的内涵

在本书中，可教育性被定义为以下几方面的结合：(a) 从经验中学习，(b) 可以被教导而学习，(c)对通过这两种方式获得的知识加以结合并应用。这是可教育性的三大支柱。具体而言，作者提出了七项能力作为可教育性的基础，分别是从例子中学习（learning from examples）、归纳推广（generalization）、大容量记忆（large memory）、连锁思维（chaining）（即将不同的知识片段结合在一起）、“心灵之眼”（a Mind’s Eye）（即识别场景中的单个元素、多个对象及其相互关系）、符号名称（symbolic names）和教学（teaching）。它们各自都并非人类所独有，但基于这些概念形成的特殊结构则是人类文明的独特能力。

此外，作者强调区分“训练”和“教育”，认为后者的本质在于，在获得知识时并未预见或根本无法预见的情况下，应用所获得的知识的能力。这可能涉及在不同时空下获得的多个知识点，因此也就意味着这些知识点需要保留一段时间，否则就难以结合不同时间获得的多个知识。人类可教育的学习系统（Educable Learning System）中，知识的保留是没有时间限制的，规则被无限期地保留，直到有意干涉、进行更新；而对于训练来说，在训练中获得的能力使用场景都是可预见的，只能帮助他们完成单一任务，比如考试。

教育过程当然需要训练的部分，但是“可教育性”强调的是认知或者知识体系的系统性，以及在面对教师和自己都无法预见的新情况时，把这些学过的知识连接在一起，做出反馈的能力。这些知识可能是相隔几年甚至几十年被学习，所以在此概念上，“终生学习”的重要性不言而喻。

然而，人们对知识保留能力（knowledge retention）的测试是具有挑战性的。正式的教育机制常常不能很好地评估留存能力——在测试前速成知识就足以应对，而人们并不清楚这些迅速获得的信息能够保留多长时间。尽管心理学家对如何促进知识的长期保留这个问题给予了关注（例如，检索式的练习或重复回忆被认为是有效方法），然而，测量长期记忆总体上是困难的。这是可教育性测量的一个重要维度，需要加以解决。

人工“智能”隐忧的再探讨

人们经常提问：当机器变得比人类更“智能”时，会发生什么？这一假设的时刻被称为“奇点（singularity）”。在过去的十年中，计算机可以识别人们的声音或面容，甚至进行对话，因此一些人认为世界已经改变，人们长期以来担心的机器接管世界的奇点即将到来。

人类社会经历过被其他社会入侵时的失控，例如古代中东被洗劫的城市和美洲土著的危机，这些事件对于那些社会来说的确是奇点。但所谓的“AI奇点”则不同，因为它不是外部力量的结果，而是我们目前完全可以控制的因素的结果。

作者认为，过度担忧和焦虑并非必要。首先，有关奇点的假设隐含了智力的强度是可以任意达成的，而智力这一概念还没有得到澄清；而且，即使粗浅理解，计算力在图灵计算中已经达到最大值。其次，作者所描绘的可教育性模型中，有一些数值参数，参数越大，系统就能越有效地接受教育并应用它。尽管可能会存在在各个方面都超过人类参数的机器，然而，机器的性能却更多地来自于它们所接受的教育质量，而不是机器本身的原始计算能力。比如，在做客Guy kawasaki的播客栏目 Remarkable People时，作者明确指出，在可教育性概念的框架下，ChatGPT并不具备“可教育性”，它只是完成了可教育性概念里的第一个部分，即从经验中学习，其本质还是基于大量的数据训练来进行文本预测。如果以可教育性的框架理解AI，基于科学来进行合理判断，像控制其他许多危险技术一样来进行部署。如果能做到这点，我们就有理由对未来技术的发展保持乐观态度。

我们正处在历史的十字路口。如果希望能彼此之间以及与我们正在创造的AI系统共享这个星球，我们必须反思我们是谁，我们是如何走到今天的，以及我们未来走向何方。The Importance of Being Educable 提出了对人类吸收和应用知识的非凡能力的新探索。作者 Leslie Valiant 认为，理解我们自身可教育性的本质对于保障我们的未来至关重要。他分析了我们如何通过信息处理来学习和应用知识，并与其他动物和AI系统进行比较，解释了为什么教育应该成为人类的中心关注点，并为未来的研究和教育实践提供了一份路线图。

作者简介

Leslie Valiant 是哈佛大学计算机科学和应用数学的 T. Jefferson Coolidge 教授。他因对机器学习和计算机科学的基础性贡献而获得图灵奖和内万林纳奖。他的著作包括Probably Approximately Correct 和 Circuits of the Mind。

本文经授权转载自微信公众号“普林斯顿读书汇 ”。