中国研究人员AI生成配图让瑞士出版商Frontiers经受考验

越来越多的研究人员已开始使用Midjourney、table Diffusion以及DALL-E等人工智能图片生成工具来加快论文中图表和插图的制作。 Alamy Stock Photo/Credit: Tero Vesalainen / Alamy Stock Photo

瑞士开放获取出版商Frontiers发表的一篇科学论文，因其中由中国研究人员用AI生成的荒谬怪诞的插图和让人满头雾水的单词，招致科学界批评质疑如潮。这一案例，让一种鼓励以前所未有的速度推进研究和学术出版的商业模式成为聚光灯下的焦点。

点击这里，订阅瑞士资讯swissinfo.ch时事通讯(Newsletter)，迅速、深入互动地了解瑞士第一手新闻资讯。

瑞士出版商Frontiers在旗下开放获取期刊《细胞和生育生物学前沿》(Frontiers in Cell and Developmental Biology)上发表的一篇科学论文(英)外部链接，因其中包含了难以理解、不知所云的文字标识和由人工智能(AI)生成的荒诞失实、槽点满满的插图，而为世界各地的研究人员敲响了一记警钟。一张以一只带有巨型、且有悖于解剖学的生殖器的老鼠为主角的论文插图，在社交媒体上引起了科学界的广泛关注与热议。科学家们公开了这些插图，并针对Frontiers的同行评审过程提出了质疑。

图1展示了一只老鼠巨型生殖器的解剖图。图中还带有一些难以辨识、让人一头雾水的单词标识，譬如：“iollotte sserotgomar cell”、“testtomcels”和“dck”。这篇论文的作者已在论文中披露，这些图片由人工智能绘图工具Midjourney生成。 Frontiers

Frontiers作出的反应是迅速撤回这篇论文，并向在社交平台X上(前身为Twitter)指出错误的科学界致谢(英)外部链接，同时强调：开放科学在面对存在纰缪和错误的研究进行集体审查方面具有举足轻重的作用。总部位于瑞士洛桑的Frontier出版社，自2007年以来便一直遵循 “付费出版 ”的商业模式出版发行开放获取科学期刊(也被称为“开源期刊”)。

We thank the readers for their scrutiny of our articles: when we get it wrong, the crowdsourcing dynamic of open science means that community feedback helps us to quickly correct the record.

— Frontiers (@FrontiersIn) February 15, 2024外部链接

作者只需支付一笔从低于100美元(折合人民币约为710元)到超过9000美元(折合人民币约为6.4697万元)不等的费用-即所谓的“文章处理费”(或曰“论文版面费”)，其撰写的论文便可以在开放获取期刊上发表，并面向大众免费获取，允许任何人阅读、下载或检索。

这种模式可与基于付费门槛和订阅模式的传统期刊相媲美。素来享有盛誉的大型学术刊物出版商-譬如爱思唯尔(Elsevier)和施普林格·自然(Springer Nature)，很长时间以来一直掌控着大众科学知识的获取，而它们的日常运营往往来自纳税人的出资办刊和订阅费用。

目前全球规模最大的两家开放获取出版机构Frontiers和MDPI，总部均设于瑞士，它们倡导所谓的“开放科学”，宣传能做到快速审阅论文和提供快速出版服务。这种可能会以牺牲发表论文的质量为代价、增加经济收益的做法，引发了科学界的担忧。

另一张看上去让人不知所云、酷似电路板的插图，呈现的是大量堆砌的虚构单词和捏造的数据。根据图注，它应该是一幅“JAK-STAT信号通路图”。 Frontiers

渥太华大学(University of Ottawa)专门研究开放存取文章处理费融资模式的教授斯蒂芬妮·豪斯坦(Stephanie Haustein)公开发声表达了她的担忧。“我担心(此次事件)只是冰山一角，下面还隐藏着更多(开放获取期刊)为了快速产出一些所谓的科学成果而发表的虚假信息，”豪斯坦坦言。

研究人员们担心，随着出版商开始将人工智能技术运用到论文审阅过程中，以及论文作者使用人工智能技术来生成图像和文本，科学诚信势必将面临更多风险。在豪斯坦看来，人工智能并不是质量低劣的研究成果能顺利被发表面世的罪魁祸首；相反，它是系统存在重重问题的一个外在表征，而正是这个系统，让研究人员和审稿人被迫面临必须快速发表论文的超负荷压力。

“伪科学”

瑞士资讯SWI swissinfo.ch联系了《细胞与发育生物学前沿》杂志，该刊物通过电子邮件，对《细胞与发育生物学前沿》在线发表包含AI生成论文插图的文章后招致的批评和争议作出了回应。该期刊的一位新闻发言人在回复邮件中写道：这是 “一桩令人遗憾的孤立事件”。

然而，这已经不是Frontiers第一次因发表存在科学诚信的文章而陷入风暴中心。2023年4月，Frontiers旗下期刊发表了一篇论文，文中声称戴口罩可能会导致出现2019冠状病毒病Covid-19相关症状，但这一说法并未得到证实。在多位科学家和公共卫生专家铺天盖地的强烈批评下，该论文在发表一个月之后被撤回。

另一篇质疑艾滋病毒和艾滋病之间联系的论文也遭遇了同样的命运。这一次，Frontiers出版社试图将其重新归类、列入“观点”类文章，因此在其发表四年多后才迟迟决定撤稿。这起事件加之其同类事件，促使科学家们纷纷发声，呼吁抵制Frontiers出版社，称该出版社旗下众多期刊的审稿程序存在问题，乃至允许发表一些人称之为 “伪科学”的论文。

Never submit to or review for a Frontiers journal! This thread exposes the dirt on their review process. They also killed Beall’s list, a quality control tool for publishing. And Frontiers allows pseudoscience, such as a “Neural Thermodynamics” issue I was recently asked for. https://t.co/ncLp5HqX6h外部链接

— Wei Ji Ma (@weijima01) August 7, 2021外部链接

不惜一切代价都要出版

尽管如此，Frontiers出版社的一位新闻发言人在电子邮件回复中依然坚称，“就发表的论文质量而言”，该公司拥有“出版业中最佳记录”，并援引数据指出，在所有大型科学期刊出版商中，Frontiers出版社是刊载论文被引用次数总数排名第三的公司，其刊登的论文被浏览和下载的次数累计高达数十亿(英)外部链接。

但根据豪斯坦所说，涉及Frontiers的诸多丑闻表明，开放获取出版商的首要目标-即传播知识以推动科学发展-已被其背后潜藏的商业模式所腐蚀。“该出版商的主要目标并非出版严谨的科学著作，而是盈利和发展壮大，“她表示。

作为该论断的证据，她提到Frontiers并不鼓励(编辑)退稿，反而会向发表文章的作者人均收费2270美元(折合人民币约为1.6317万元)。Frontiers旗下期刊的退稿率，要远远低于传统学术期刊出版商(英)外部链接： 例如，Frontiers旗下所有期刊的平均退稿率为48%，相较之下，传统学术刊物出版商爱思唯尔的退稿率为71%。此外，Frontiers的审稿周期也非常短：据其官方网站介绍(英)外部链接，论文投稿者只需61天就能得到其文章是否能被发表最终决定，而其他期刊的平均时间则长达3到6个月。

一项分析(英)外部链接还表明，开放获取出版商越来越多地使用“特刊”形式来出版他们收到的大部分论文。“在过去，’特刊’曾经是非常罕见和享有盛誉的出版形式。然而现在，Frontiers和MDPI将其当成了一种增长模式，”豪斯坦评价称。

在瑞士，这种做法的普及蔓延导致瑞士国家科学基金会(SNSF)毅然将那些在特刊上发表的研究成果排除在其资助项目之外(英)外部链接。“‘不惜一切代价都要出版’的原则，与瑞士国家科学基金会的政策相悖，”瑞士国家科学基金会新闻发言人在电子邮件中对SWI swissinfo.ch如是称。

研究人员和审稿人双双面临压力

与过去相比，随着越来越多的研究人员得以发表和获取更多的免费研究成果，在过去的十年间，科学界发表的科研论文总量呈指数级增长。然而科学界本身却并没有成长。因此，科学家们需要以前所未有的速度去伏案撰写、审阅和编辑论文-而这些工作通常是没有任何报酬的。而就在研究人员们努力应对不断增加的工作量、期冀以此促进其个人职业发展的同时，科学期刊出版商得到的利润空间(英外部链接)却在日趋膨胀。

Frontiers旗下期刊的前编辑、剑桥大学澳大利亚籍的免疫学家阿德里安·利斯顿(Adrian Liston)表示，Frontiers出版社已经发展得如此之庞大，以至于它基本上放弃了对编辑过程的控制。当年时任编辑时，当利斯顿意识到想要拒绝一篇论文实际上是不可能的，而且有些编辑为了尽快让手头审阅的论文得以发表，并借此获得出版费用而匆忙完成审稿过程、甚至凌驾于同行评审者之上时，他就毅然选择了辞职。

他认为，这就是为什么一篇带有明显硬伤、借助人工智能生成出谬误百出的插图的论文会获准发表的原因-即使其作者已明确表示他们使用了人工智能。

http://

I quit as a Frontiers editor and refuse to review papers for them because of how difficult the journal makes rejecting a paper. You essentially can’t, you can only get stuck in endless reviewing loops. Still shame on everyone involved, but this is what the Frontiers system allows https://t.co/CxEzfYFd6G外部链接

— Adrian Liston (@LabListon) February 15, 2024外部链接

打击出版领域的生成式人工智绝非易事

人工智能的滥用，绝不仅仅是开放获取出版物的问题。当前，生成式人工智能已悄然进入该领域，而且能够快速创建文本和生成图像，据此，科学家们担心出版商和研究人员会更容易借助生成式人工智能走捷径和作弊。随着技术的日益进步，参与论文评审过程的人往往发现自己已难以跟上日新月异的技术发展。

“我认为，在大学环境里，我们往往忽视了技术的力量，或者我们通常根本没有足够好的政策，“环境研究领域的教授西蒙·巴特伯里(Simon Batterbury)感叹道，多年来，他一直为多家非营利性开放获取期刊兼任编辑工作。

人工智能生成的虚假数据和图像看起来是如此真实，乃至专家也很难精准识别出一篇论文中哪些是由人撰写而成、哪些是人工智能的杰作。”即使作为一个多年来致力于利用我的专业知识和专为检测重复和抄袭而设计的软件从事论文‘打假’工作的人，我也无法再辨别出这些图像或数据集的真伪，“微生物学家兼科研诚信顾问伊丽莎白·比克(Elisabeth Bik)坦言。近年来，学术不端、科研诚信受损的情况已非常严重，仅去年，被撤回的已发表研究论文就达到了破纪录的1万篇之多(英)外部链接。

目前，学术期刊出版商们正纷纷通过禁止(英)外部链接、或针对在科研论文中使用人工智能施加各种限制(英)外部链接来进行打击和抵制。但在Frontiers看来，使用生成式人工智能撰写学术论文是可以接受的(英)外部链接，但作者必须对由人工智能生成内容的准确性进行核查，并对其论文中使用了人工智能技术作出明确声明。

这家瑞士开放存取出版商通过电子邮件向瑞士资讯SWI swissinfo.ch介绍称，该出版社是在编辑流程中使用人工智能的出版商之一，“通过该技术辅助、改善和提高人类发现研究人员学术欺诈舞弊和不端行为的能力”。这是人工智能帮助出版商(英)外部链接遏制科研论文中存在滥用技术现象的一种方式。

然而，这种做法并不能确保不良科学会被发现、揪出，正如Frontiers出版社所接受的由人工智能生成的虚假插图案例所显示的那样。截至目前，已有近2.5万名研究人员签署了《旧金山科研评价宣言》(San Francisco Declaration on Research Assessment，简称为DORA或《旧金山宣言》，英)外部链接，呼吁解决这一问题。他们认为，我们需要停止鼓励研究人员尽可能多地发表论文，以及一味寻求在顶级期刊上发表论文。

“我们必须认可科研人员的工作成果，而不仅仅是期刊本身，”巴特伯里说道。

(编辑：Veronica DeVore，编译自英文：张樱/dh)