著名教授发现自己被ChatGPT“写”的论文引用！MDPI将“挂名”作者列入黑名单！

把解螺旋设为星标 ⭐，才能准时收到推送哦~

解螺旋公众号·陪伴你科研的第3342天

潘多拉魔盒是否已被打开？

本文信息来源：Retraction watch

在过去一段时间里，ChatGPT的横空出世使得AI再次成为国内外的新闻头条。这款强大的人工智能软件不仅能和人沟通互动，还能完成文章撰写、代码修改等智力工作，甚至有用户训练AI完成学术论文的写作。那么AI可以完成专业的学术写作吗？

就在上个月，丹麦的一位千足虫专家Henrik Enghoff收到一封电子邮件，告知在Preprints.org上他的论文被一篇新的论文引用。但当他下载这篇论文时，他发现这篇论文引用了他的研究，内容却有些偏离主题，牛头不对马嘴。

但更奇怪的是，现已撤回预印本的作者是一群来自中国和非洲的研究人员，他们还引用了Enghoff的两篇论文。可这论文不是他写的，而事实证明它们是并不存在的“幽灵论文”。

哥本哈根丹麦自然历史博物馆的教授Enghoff告诉Retraction Watch的记者，他以前从未遇到过这样的事情。他觉得十分惊讶，于是便联系了哥本哈根大学的 David Richard Nash。

几个月前，Nash一直在试验 OpenAI 的 ChatGPT（一种人工智能聊天机器人），看看它是否可以用来查找科学文献。他要求机器人向他提供有关他所研究的蝴蝶物种的最新参考资料。结果AI带回来了 10 份看似合理的论文，但其中只有一篇是真实存在的。

在得知Enghoff的案例后，Nash向Preprints.org发送了电子邮件，这是科学出版商MDPI拥有的免费预印本服务器。他解释道，他在预印本中随机查找了五个参考文献，发现它们都是虚构的。他还暗示 ChatGPT 等生成人工智能可能已经发挥了作用，并补充道：

我建议您直接联系作者并要求解释（并希望撤回并向这些虚假参考文献受影响的“作者”道歉），并审查您关于接受人工智能生成的文本和参考文献的政策。

在与 Retraction Watch 分享的信件中，MDPI 预印本编辑Lloyd Shu对“本预印本造成的问题”表示歉意，并表示：

我们将立即撤回该预印本，并将该预印本的作者添加到我们的黑名单中。

MDPI 的科学官员 Ioana Craciun 证实Preprints.org已经“删除了一份似乎是使用人工智能生成的预印本”。

根据Preprints.org网站消息：

所有预印本在网上上传之前都会经过简短的筛选。大多数情况下，此过程需要不到 24 小时。筛选包括检查基本科学内容、作者背景以及是否遵守道德标准。

Craciun 解释说，由于预印本不经过同行评审，“人工智能生成的内容更有可能在不被发现的情况下发布到预印本服务器上。”

她补充道：

这个案例对我们来说是一个信号。这不仅是 Preprints.org 面临的挑战，也是所有预印本服务器、出版商、大学和整个科学界面临的挑战。我们将审查我们的筛选流程，以确定需要改进的领域。虽然我们可以注意到人工智能生成的内容的相似率极低，但我们不能仅仅依赖于此。我们希望开发出更强大的工具来协助检测人工智能生成的内容，并且可能需要对参考文献进行更仔细的检查，正如本例所示。

看来ChatGPT真的已经被用来替代人类写专业性的论文了。在2023年3月， J Med Internet Res （IF=7.4）在线发表了一项关于ChatGPT的文章。研究者利用ChatGPT生成了一篇完整的神经外科论文，在用词、句子表述、论文结构方面都与真正的医学论文非常相似，包含1992个词和17篇参考文献，整个文章创建过程大约只花了1个小时。

当然，虽然这篇由ChatGPT生成的论文看起来复杂而完美，但经过仔细检查，专家读者能够识别语义上的不准确和错误，特别是在参考文献中，论文引用的一些参考文献是不正确的，还有一些参考文献实际上压根不存在。

研究者还使用一个AI检测工具，指出这篇文章是ChatGPT生成的概率为72%，即“很有可能是AI生成的”。OpenAI的AI识别工具认为“可能是AI生成的”。（AI检查AI，最后会不会演变成企鹅杀某60，或者某60杀企鹅呢？

）

不过随着AI功能的不断完善，谁也不能忽略AI工具的进化和演进能力。对于AI工具“入侵”论文写作，社会已经生出深深担忧。AI用于学术写作和研究制定准则也变得越来越重要，包括如何验证内容的准确性和真实性，检测和防止欺诈和不当行为。

由于AI工具技术输出的内容本身就存在版权问题，且其提供的学术内容缺乏规范的引用和标注，因此，研究人员直接使用它完成论文，存在着严重的学术不端风险。尽管这一观点仍存争议，但规范应用已被提上日程。

2023年4月，Turnitin软件推出了AI检测功能，已被墨尔本大学、新南威尔士大学等国外高校采用。Turnitin可以通过相关技术分析文本片段，得出论文中有多大比例是由AI生成的预测结果。

近期国内高校检测平台也添加了AI识别功能，通过软件，高校能识别出AI辅助风险等级，如果学校或者任课老师明确禁止使用AI工具，则用过AI创作的论文将无法过关。另外，一些期刊和出版机构也对AI写作工具的使用提出了相应要求。《暨南学报（哲学社会科学版）》、《天津师范大学学报（基础教育版）》等学术期刊相继发布关于使用人工智能写作工具的说明，表示作者如果在论文创作中使用相关工具，要在文章中详细解释使用程度。

ChatGPT就像一把双刃剑，它有能力提高文档创建、结果分析和语言编辑的效率和准确性，但同时也有可能带来一场新的科技革命。我们需要保留自主性和自觉意识，而不是用工具“绑架”自己，毕竟它只是一个“工具”。

一切未成定局，未来等待我们去开创。

—END—

撰文丨解螺旋

排版丨吱吱、豨莶

突发！这家著名学术出版商直接关闭了旗下四本期刊！

从中科院预警名单中移除，近三年国人发文量超50%，位列第一

有什么书推荐给医学生医生看？（第十三期）