段永朝 | AIGC就是一个人类兴奋的玩具而已

作者 | 段永朝 苇草智酷创始合伙人、信息社会50人论坛执行主席

生成式人工智能是一种邀请，邀请我们重新认识媒介、自我与世界。媒介创客行动是对这一邀请完全敞开的全然接纳，正在成为一场关于生存美学的公共幸福社会实验。媒介创客是根植于数智时代基本生态的新物种，具有新的DNA双螺旋分子结构的后人类，强调在人类智识与人工智能的融合、科学技术与文化艺术的交叉、媒介思想与产业实践的贯通中，以心智生产力催生新质生产力。

10月19日，智酷 393 期，中国科学技术大学科技传播系副研究员周慎分享《媒介创客新时代》，北京外国语大学国际新闻与传播系教授展江、新华社国家重点实验室生物感知智能应用研究部学术带头人杨溟、苇草智酷创始合伙人段永朝等参与点评，北京信息社会研究所所长王俊秀主持。

以下根据段永朝老师发言内容整理而成：

今天特别开心的是见到了展江老师，我读过很多展江老师的大部头，见到你的肉身是很难得的。也非常开心能听到周慎老师讲这么完整的东西。的确，我跟俊秀一样，见证了从周慎同学到周慎教授这个过程，这真的是让人非常欣喜的，尽管他迫不及待地想上满汉全席。因为时间所限，如果再给他两三个小时，我觉得他可能会雕刻的更细致一些。

展江老师和杨溟老师提的内容，我是高度认同的。AIGC这个概念提出来之后，我一直是少数派，现在我是极少数派，为什么？因为我对这个词语非常不喜欢，非常讨厌。我认为AIGC会误导一代人，它会把人带到坑里去，我非常不喜欢。尤其加上今年诺贝尔奖也来凑这个热闹，我也觉得非常不理解。本来我觉得这股风应该过去了，没想到今年诺奖又给他们加持了一下。

简单地说，我觉得 AIGC有三宗罪。这就是相当于刚才展江老师说的边界以外的事情，其实严肃的学者内心跟明镜似的，他们都很清楚，但是对大众他们不提这个事儿，所以我把它叫“对大众的三宗罪”。

第一件事情就是计算主义逻辑。我个人认为今天的人工智能背后的计算主义逻辑没有超越1931年。为什么说没有超越1931年？1931年哥德尔定理的出现已经给计算主义的棺材板钉上钉子了，这是定论。这件事情它并没有超越。所以我说的第一宗罪就是，仍然秉持计算主义的人工智能，我认为没有前途。

第二宗罪就是价值中立论破产。价值中立已经忽悠了几代人。为什么法兰克福学派批判技术？我个人认为是批判技术中包含的价值中立论，就是实证主义哲学，认为计算科学可以搞定一切。为什么觉得可以搞定一切？你看科学有模型、有计算，还有可验证、可重复、人人平等，多好？100年前中国的科玄之争，就企图说明这一论断。当时有人问，科学能搞定人生观吗？科学派就说能搞定人生观问题。简直对人类贻害不浅。

所以我个人觉得，价值中立论破产是一个可以鼓掌的事情，从思想领域打破了一个魔咒。在大众传播领域，我们不就是认为科学等于正确吗？前面一加“科学”的冠语之后，就等于给它加持了，就等于认为它就是正确的化身。那你得拿证据来，就像韦伯说的让数据来说话。我认为这都是很扯的事情。今天的数据说话、证据说话、事实说话、科学说话，都不等于真理的全部边界。所以价值中立论破产，在互联网之后越来越明显，但是没有人跟大众普及这个事情。

第三宗罪就是关于意识的起源问题。为什么这是一宗罪呢？因为人工智能领域现在越来越多地说他们能搞定意识领域，但是他们不提意识的起源问题，哲学家大卫·查尔默斯说这是个难问题。甚至我认为到今天为止，查尔默斯就靠提了这一句，名垂青史。他把意识问题分成简单问题和困难问题。他认为起源问题是最难的，而且我个人觉得到现在门都没摸着。起源问题的可以说学派林立，但是众说纷纭。但人工智能、大模型致力于从功能上解释意识问题，从而避重就轻，让人误以为意识的（起源）问题即将宣告解决。

所以这三个问题足够了，不用到七宗罪了，就三个问题足够说明AIGC就是一个玩具，就是一个人类兴奋的玩具而已。在这个问题上，辛顿只是在提醒人工智能的危险性，人工智能的误用、滥用，所以我想用这个来提醒，我们对人工智能是非常无知的。

我略微展开一点关于计算主义的问题。计算理论里面一个非常经典的奠基石是图灵。大学教科书里面写的，我们今天所有的人类计算都可以用图灵机实现，这个叫丘奇-图灵论题。这是写在教科书里的。可是论题是什么意思？什么是thesis？thesis就是说这是个假设，并不是数学定理。但是请问我们跟大众讲过这个问题吗？

今天的计算机原理用图灵论题来支撑，只是建立在假设的基础上。假设是什么意思？假设就是所有的人类计算都可以用图灵机搞定，这就是他的假设原本的意思，他也的确搞定了99%，有1%没有搞定，将来这1%会造99%的反。我们是不是要在这个上去思考问题？

第二，信息论创始人是香农，他的《信息论》原著迄今为止没有中文翻译。他的原文中开宗明义地讲了一句话，他说，我的信息论跟content（内容）没有关系。换句话说，跟我们文科生讨论的meaning（意义）没有关系。因为信息论脱胎于通信理论，它就是个编码，它跟content（内容）没有关系。好了，我们今天的人就拥抱AIGC，扯淡不扯淡？这样能拥抱着了content（内容）吗？在底层逻辑上就不支持。这个问题我个人认为学术界有责任，讲这些课程的人有责任把人工智能的思想史讲清楚，就像展江老师说的，不但要讲边界，还要把它的源流、脉络梳理清楚。

我们今天玩的那套玩意儿，什么算法、大模型、transformer等，搞不定底层的东西。这件事要跟大家说清楚，然后我们才能知道我们搞定什么。所以刚才周慎老师讲的时候，我脑子里浮现的画面，我们搞定的是“吃”，中国的吃文化很发达，我们搞定的是怎么吃，怎么再做一道新菜，怎么用AIGC作个新曲出来。但我们考虑到音乐发展思想史吗？不考虑。因为它是无限的，它有无穷可能，所以我们就满足于整一个呗。

但是背后最重要的问题是什么？就是AIGC里的无限可能性是可编码无限可能性，是可辨识无限可能性，它并不代表无限可能的所有品种。所以我说人类思想史上还有一个恶魔，是数学家康托尔。为什么？因为康托尔发明了集合论。你要注意，他发明集合论以后，他搞定了一个2000年西方思想史上的争论，这个争论就是古希腊哲学里面关于“无穷”的争论，到底是实无穷还是潜无穷？他把这个问题给解决掉了，解决掉了之后，大家就都认为无穷是实无穷。

今天的数学思想要想前进，必须批判康托尔，因为康托尔把西方思想的无穷观念给结扎了，他把潜无穷干掉了，他只剩下了实无穷。当然，他很牛，他提了一个问题，是希尔伯特的二十三个问题的第一个问题，就是康托尔的连续统问题。但是不要忘了，那个连续统问题是建立在“肯定实无穷，打压潜无穷”这个思想的基础上。可是就这一件事情，缔造了我们今天计算主义的数学思想的基础。

这就意味着我们今天玩的所有的花活儿，都建立在一个有限的数学思想的基础之上，看上去好像是无穷空间，其实是同质化的实无穷，而不是异质性的潜无穷。顺便说，在这个问题上，我非常推崇法国思想家巴迪欧。去年我曾就巴迪欧发展康托尔的集合论思想做过一次讲座，可以参考这个内容。

那么，谁敢说（计算理论）这个数学思想就不发展了？所以我觉得AIGC的这个问题就是历史长河中的昙花一现，这件事情很快会有很多人醒悟过来，原来不是这么回事儿，原来它做的东西太有限了，它就是个呼啦圈。当年呼啦圈出来以后全民狂欢了两年，然后立刻偃旗息鼓。因为马上会有人醒悟过来，这些事情远没有这么简单。谢谢。

扫描下方二维码

观看直播回放

——END——

苇草智酷简介——

苇草智酷（全称：北京苇草智酷科技文化有限公司）是一家思想者社群组织。通过各种形式的沙龙、对话、培训、丛书编撰、论坛合作、专题咨询、音视频内容生产、国内外学术交流活动，以及每年一度的互联网思想者大会，苇草智酷致力于广泛联系和连接科技前沿、应用实践、艺术人文等领域的学术团体和个人，促成更多有意愿、有能力、有造诣的同道成为智酷社区的成员，共同交流思想，启迪智慧，重塑认知。

好文推荐

段永朝 | 技术中立论的破产与计算崇拜的兴起

段永朝 & GPT ｜可信知识：世界秩序的基石

段永朝：重访1971，重新认识马斯克

段永朝｜智能技术：“鞋”还是“路”？

段永朝 | 在真正的数学家眼里，数学所描绘的世界生机盎然