ChatGPT写的论文有多少发表了?搜完谷歌学术以后我慌了

人工智能 新闻
连「作为一个大模型……」这样的 AI 语都忘了删就提交,结果还过审发表了。今天,有个斯坦福本科生在谷歌学术搜索(Google Scholar)上就发现了这类「浑水摸鱼」的掺假论文。

ChatGPT 出现以后,很多学术机构都发出了禁令,因为这种 AI 虽然生成能力强,但有时会胡说八道,滥用大模型写文章也违背了做研究的初衷。

但随着大模型的应用浪潮,我们很快忘记了刚开始的恐惧。有学术机构正在解禁,微软也计划在年内把 ChatGPT 整合到 Office 全家桶里。或许过不了多久,人人都可以用大模型去写文章。

这让人不得不去想象以后的学术论文会被 AI 生成的内容冲击成什么样。其实,这种事可能已经在发生了。

今天,有个斯坦福本科生在谷歌学术搜索(Google Scholar)上就发现了这类「浑水摸鱼」的掺假论文。

当你输入「“As an AI language model” -“ChatGPT”」搜索时,会搜到很多直接将 ChatGPT 答案贴上去的论文。

比如下面这篇经过同行评审、发表在《国际工程与技术创新期刊》的论文中,作者似乎遗漏了一个重要的合著者 ——AI 语言模型(ChatGPT)。

突出一个投者无心,审稿故意。

另外一篇经过同行评审、发表在《网络银行和商业杂志》上的论文,题目为《基于反向传播神经网络和梯度下降的股价预测》,同样有不存在的作者 ——ChatGPT。

开篇就是 AI,看上去让人忍俊不禁。

类似例子还有很多,比如下面两篇分别发表在《国际现代农业和环境期刊》和《技术创新和能源杂志》上的论文。

图片


图片

更离谱的是,下面这篇发表在《国际高级工程和土木研究期刊》的论文,ChatGPT 甚至引用了作者 X 和 Y 的一篇虚假(fake)文章。

除了参与论文撰写之外,ChatGPT 还参与了一些书籍的写作,比如下面的《性知识入门》和《利比亚概览》。

图片


图片


机器之心也在谷歌学术中输入「“As an AI language model” -“ChatGPT”」,结果出现了 10 个页面,有 100 篇左右。

图片

Andrew Kean Gao 的发现在推特(X)上吸引了上百万人的围观,Google Scholar 似乎对此很快做出了反应。最新的情况是:很多能被搜到的 AI 文章只有名字,不给链接了。不过必须要说的是,这距离真正的「整顿」还差的挺远。

在 AI 领域,大模型的发展速度以天为计,学术期刊的审稿规则为了应对也在急速变化。此前,很多期刊、会议禁止将 ChatGPT 列为合著者。

其中《科学》杂志明确表示不接受 ChatGPT 生成的论文,也不允许 ChatGPT 作为论文作者。《自然》杂志则表示可以使用 ChatGPT 等大语言模型工具撰写论文,但也禁止列为论文合著者。

对于这位斯坦福本科生的发现,有人揶揄道,你不会以为人们在发表论文之前会再通读一遍吧。也有人再补了一刀,在发表之前让 ChatGPT 再读一遍。

图片


图片

或许真正的问题在于,这些论文是如何通过编辑审核或同行评审的。

图片

图片

最后有人一语道破天机,表示这些都是四级(four-tier)期刊,只要付钱啥都可以发表,都是一些毫无意义的垃圾。

图片

至少目前来说,ChatGPT 生成的论文还没造成太大影响。就是不知这种工具在 Office 上真正流行起来,学术界会变成什么样子。

责任编辑:张燕妮 来源: 机器之心
相关推荐

2021-03-22 10:14:10

技术研发论文

2023-12-21 07:10:43

2023-05-08 14:57:22

AI谷歌

2023-02-12 19:40:17

2023-02-16 22:34:20

微软谷歌ChatGPT

2019-10-24 10:17:53

量子芯片网络

2023-03-01 20:18:05

ChatGPTPython

2023-03-06 10:15:31

论文谷歌

2023-05-08 15:22:00

AI研究

2021-03-03 10:54:41

2023-09-11 12:23:50

2024-08-19 08:02:58

2023-05-15 09:39:37

2024-12-18 13:30:00

2023-01-09 13:19:07

AIGPT-3创作能力

2024-04-30 12:35:22

模型数据

2024-12-10 15:10:24

2022-09-20 14:30:24

脚本工具SQL数据库

2021-10-27 09:10:50

CSS 技巧else
点赞
收藏

51CTO技术栈公众号