仅凭AI检测结果就质疑作家，可靠吗？
这原本是一部法国秋季文学奖的热门候选作品。但一个检测模型计算后认定，这部畅销小说几乎所有的内容都出自人工智能。争议随即爆发，作者的获奖前景也因此受到重创。瑞士专家和艺术创作者们正在分析这些AI检测工具的实际可靠性，以及它们的评估结果对创作工作究竟意味着什么。
相关内容
时事通讯：瑞士媒体里的中国
海地裔加拿大作家泰利松·欧赫利安(Thélyson Orélien)原本前途无量。他的小说《要么如此，要么死去》(C’était ça ou mourir)受到了文学评论界和读者的广泛好评，并曾入围包括龚古尔文学奖(Prix Goncourt)在内的多项法国顶级文学奖项的竞选名单。然而，X平台上某个匿名账号却指控该作家几乎完全依靠人工智能完成了整部作品，令事件的走向发生了改变。
欧赫利安否认自己在写作时使用了人工智能。但在指控他的人看来，证据却确凿无疑，因为Pangram这款普及度极高、专门用于识别AI生成内容的软件将其小说中超过95%的内容判定为由人工智能生成。
此后，奥雷利安的处境急转直下。他的小说被从龚古尔文学奖的评选名单中移除，同时媒体还揭露了他早期作品中的抄袭问题，对此他已公开道歉。在一项外部分析发现更多使用人工智能的证据后，他的加拿大出版社也与他终止了合作关系。奥雷利安则继续否认自己借助人工智能撰写这部小说，但承认在创作过程中曾利用人工智能进行历史资料研究。
这场争议从一开始就引发了文学界的巨大分歧：一方支持身为作家的欧赫利安，并对Pangram这类人工智能检测工具的可靠性提出质疑；另一方则对这位作者进行了谴责。
抛开奥雷利安的个案不谈，瑞士导演、编剧兼讲师曼努埃尔·弗卢林·亨德里(Manuel Flurin Hendry)认为，单凭某个软件的检测结果来损害一位作家的声誉是不公平的。今年十月初的瑞士人工智能生态峰会(AI+X Summit)上，亨德里在接受瑞士资讯swissinfo.ch采访时表示：“将一篇文章粘贴到Pangram上，然后让作家承受某种公开处决般的待遇，在我看来，这种做法让人难以接受。”换句话说，亨德里捍卫艺术创作者选择创作工具的自由。
其他瑞士作家和艺术家也曾公开尝试过利用人工智能来进行创作。作家查尔斯·莱温斯基(Charles Lewinsky)就曾在其小说《真假难辨》(Täuschend echt)中插入了由ChatGPT生成的整段文字。摄影师马蒂厄·加夫苏(Matthieu Gafsou)也在自己的艺术创作中使用了DALL-E等图像生成工具。
以上只是人工智能如何融入瑞士创意作品的几个公开案例。然而，针对人工智能广泛且不透明的使用情况，想要找出正确的应对方案则要困难得多。同样，想要确定一台机器在多大程度上可以合法地为艺术作品做出贡献，以及像Pangram这样的检测工具在揭露潜在欺诈行为方面是否可靠，也绝非一桩易事。
Pangram 的可靠性究竟如何？
对于美国IBM公司的高级研究员亨德里克·斯特罗贝尔特(Hendrik Strobelt)而言，Pangram的可靠性问题相当复杂。2019年，斯特罗贝尔特及其同事共同开发了一款名为GLTR的检测工具。同时，GLTR也是最早用于识别语言模型生成文本的试验型检测工具之一。
当时，OpenAI刚刚发布了GPT-2，而斯特罗贝尔特团队正是在该模型的基础上开发出了GLTR。斯特罗贝尔特解释道，人工智能系统生成的文本往往相当单调，且在风格上极为相似，因为这类内容最为常见。
因此在当时，判断一篇文本是否由人工智能协助撰写而成其实相对简单，因为只需从中找出最容易预测的词汇即可。
然而，此后的语言模型却变得越来越复杂。斯特罗贝尔特认为，伴随着当下前沿人工智能系统的出现，想要确立精准的规则来区分人工智能生成的文本和人类撰写的文本，已经变得极其困难。
斯特罗贝尔特表示：“如今，这些语言模型的规模已得到了明显的扩展。只要给予适当的指令，它们就能模仿出多种不同的文字风格。”
以Pangram为代表的软件采用了一种被称为“监督式分类”(supervised classification)的检测方法。它们将出现于生成式人工智能大规模普及之前且被推定为人类撰写的文本与那些由市面上各种语言模型生成的、主题相同的“镜像”文本进行比较和分类。在训练过程中，这些软件学会了识别这两类文本之间的差异。
这种检测方法的逻辑在于：如果一个系统能够区分同一主题下内容极其相似的文本，那么它的预测就会更加准确。
斯特罗贝尔特解释道：“我们的目标是利用内容非常相似的文本来对系统进行训练，以确保它们首先学会处理那些最为棘手的任务。”
Pangram宣称其准确率高达99.98%，而检测失误的概率仅为0.01%。此外，该软件的卓越性能也得到了多项独立研究的证实，其中包括一项发表于今年的研究报告。
瑞士意大利语区大学(USI)人工智能与机器学习研究员保罗·伊塔利亚尼(Paolo Italiani)表示，文本越长，检测工具的评估结果往往就越可靠。
该研究人员补充道：“事实上，[一篇文本]至少有部分内容出自于人工智能的可能性相当之高。”
AI检测工具的局限性
然而，瑞士意大利语区大学研究自然语言处理(NLP)的教授隆内克·范德普拉斯(Lonneke van der Plas)却指出，人们目前仍难以准确理解这些检测软件究竟是基于文本的哪些特征来完成分类的。
范德普拉斯表示，想要弄清楚这一点，可解释性研究不可或缺。然而，Pangram这类商业化工具大多都是不透明的“黑箱系统”，独立研究团队根本无法与它们直接建立链接，因此，研究它们的检测结果究竟从何而来便显得异常复杂。
正如范德普拉斯参与的一项研究指出的那样，以过于简单直白的论述结构为代表的文本特征往往在理论上意味着人工智能的介入。但这位专家同时提醒道，仅凭这些特征尚不足以确切判断文本的真实来源。
此外，范德普拉斯还指出，在面对一些用非英语语言撰写的文本或是极其小众的文本类型时，AI检测工具的可靠度往往偏低。这是因为在训练过程中，检测工具并未与这些语言和文本类型产生足够的接触。
当一篇文本是人类与人工智能共同创作的结果时，问题则会变得更加复杂。一些测试表明，在这种情况下，AI检测工具的准确率会下降约20个百分点。Pangram的技术报告也指出，当人类撰写的语句和人工智能生成的语句在文本内容中交替出现时，该检测软件的分析准确率便会有所下降。
范德普拉斯表示：“基本上，用于训练这些检测软件的文本要么完全由人类撰写而成，要么完全由人工智能生成。一旦遇到介于两者之间的文本内容，它们便会失灵。”
AI检测工具的结果并不具备权威性
从法律的角度来看，人们并不能把Pangram等AI检测工具生成的结果当作证据，用来指控作家的欺诈行为。
日内瓦大学的知识产权法教授雅克·德·韦拉(Jacques de Werra)表示：“司法裁决不能仅仅建立在当下AI检测技术的基础之上，因为它们可能并不准确。”
德·韦拉解释道，如果像欧赫利安这样的案例最终诉诸法庭，除了AI检测工具提供的结果，其它证据亦不可或缺，譬如作者的原始手稿、后续的草稿，甚至作者与人工智能系统的互动记录。德·韦拉还强调，让人工智能参与创作过程并不意味着作者自动丧失对其作品主张著作权的权利。
该法律专家表示：“如果有人能证明，在输入的内容、提供给人工智能的创作指令和最终结果之间存在足够紧密的创作性关联，那么，我们便可将这类作品定性为由人类完成的创作。”
创作性关联是否紧密，关键在于来自作者本人的那部分创作占据的分量是否足够。通过预先设定一个数值门槛，人们可以确立一部作品中作者本人撰写的部分所占的具体比例。只有当比例要求达到时，该作品才能被视为作者本人的创作。然而，在德·韦拉看来，这一预先设定的数值门槛并不存在。
如果一本书打动了我们，作者是谁真的那么重要吗？
对于曼努埃尔·弗卢林·亨德里来说，欧赫利安的案例所引发的探讨并不止步于法律保护层面。
亨德里公开表示，他曾利用人工智能技术(其中不乏一些由他亲自开发的技术)来进行与其创作工作相关的多项活动，譬如剧本分析和为学术研究提供支持。
这位艺术家解释道，技术为他开辟了新的灵感渠道，有时还会为他提供一些之前从未考虑过的创作思路。这样的助力令他得以将更多的时间投入到艺术创作的过程之中。
亨德里表示：“真正的人类写作其实就是思想的实践。它需要经历磨合，并要求作者有能力进入一种能够完全专注于自己思维流动的状态。”
与此同时，亨德里还提出了一个发人深省的问题：我们为什么要将人工智能在一部作品中的参与程度看得如此重要？他表示：“如果一部作品能够打动我们，如果我们觉得它很有趣，如果它能让我们进行思考，那还有什么可纠结的呢？”
亨德里认为，关键在于学会区分哪些任务可交给人工智能处理，哪些任务最好由作者本人亲力亲为。艺术家们不应排斥AI技术，而是应当开诚布公地说明，在创作的过程中，这些技术究竟如何为他们所用。
亨德里表示：“如果我谎称某部作品是我自己的创作，但它实际上却是完全由人工智能生成的，这就是欺骗。”
这不仅关乎到艺术家本人的声誉，更关乎到他与公众之间的信任纽带。
(编辑：Gaby Bullard / 编译自意大利语：Aikens Jun/gj)
在 Google 搜索结果中查看更多 Swissinfo 报道。 了解更多
符合JTI标准
您可以在这里找到读者与我们记者团队正在讨论交流的话题。
请加入我们！如果您想就本文涉及的话题展开新的讨论，或者想向我们反映您发现的事实错误，请发邮件给我们：chinese@swissinfo.ch。