谷歌AI-概览正在影响瑞士民主

《瑞士不要1000万人口》动议引发两极分化的投票舆论战，AlgorithmWatch CH与苏黎世大学就此展开了针对AI-概览的研究，这类由人工智能生成的摘要答案越来越频繁地出现在Google以及Bing平台搜索结果的最前面。 Gian Ehrenzeller / Keystone

研究显示，人工智能正潜移默化地影响着民主国家里普通公民的意见形成。瑞士的算法观察组织(AlgorithmWatch CH)要求AI企业提升透明度，并出台切实有力的监管。

在如今的民主讨论中，有一项因素往往被忽视：人工智能正在悄悄改写人们对于信息的获取。“在民主舆论的形成过程中，AI-概览(Übersicht，又译摘要)的权重在逐步加强，”非政府组织算法观察瑞士部(AlgorithmWatch CH)的研究员Corinna Hertweck说。

在围绕《瑞士不要1000万人口》的公民动议展开竞投期间，瑞士的算法观察组织AlgorithmWatch CH联合苏黎世大学计算机研究所，对超过17万条自动生成的查询指令展开分析，以期找出在谷歌与必应(Bing)的搜索引擎中，发起查询的用户接收自动生成的AI-概览的频率有多高，以及出自哪些信源。

研究发现，43%的谷歌搜索请求会收到一份人工智能-概览作为回复。被调取的信息来源约1/3立场中立，主要为新闻报道或政府网站消息。

此外，研究团队还统计了在所有AI-概览提供的链接中，正反方的数量比例。结果显示：对该动议持批评态度的链接占比更高。但AlgorithmWatch CH组织强调：这并不意味着AI-概览本身带有倾向性。

一般来说AI-概览会同时列出正方与反方的论据，“但有时其中一方观点所占篇幅很长，而另一方则只在从句中一笔带过，”Hertweck说：“不过这只是直观感受，目前尚未作出对概览中立程度的量化分析”。

框架效应会影响意见的形成

Hertweck认为这种“隐蔽”的影响令人担忧：“数百万人使用谷歌搜索查询，并收到人工智能-摘要。这种微妙的‘框架效应’能够左右人们的意见”。

在右翼保守政党瑞士人民党(SVP/UDC)发起《瑞士不要1000万人口》动议引发两极分化的舆论战期间，苏黎世广告公司Feinheit对聊天机器人和AI摘要也展开了研究。其结论是：ChatGPT与谷歌Gemini会更强调反对意见；而谷歌的AI-摘要则为“倡议发起方站台，”Feinheit说。

马里兰大学与华盛顿大学的科研人员指出，AI-概览尤其能够说服那些“对相关议题认知不足或是对人工智能高度信任”的用户。因此在瑞士的直接民主制度下，自称“要传播中立信息”的AI模型就扮演着非常重要的角色。

“当我问谷歌一个问题时，页面最上方出现的往往不再是多个链接，而是AI自动生成的一段回答，简单直接，”Hertweck说，“这看上去很有说服力，自带一种权威。”有证据显示，零点击搜索(Zero‑Click‑Searches)的数量正在增加，用户因此而不必离开谷歌平台，“这会导致人们降低批判性思考的力度。”Hertweck断言。

投票手册与AI简答有何不同？

在瑞士围绕信息是否中立展开的讨论非常重要，因为这是民主辩论的一部分。这有时会点燃包括瑞士资讯swissinfo.ch在内、公共服务媒体的报道热潮。

而瑞士选民随投票材料一同收到的投票手册，往往会引发更为激烈的讨论。手册中的信息必须保持中立，正反方的观点、论据要占据同等篇幅。不过投票广告则另当别论，没有资金上限，曝光度在很大程度上取决于预算多少。

瑞士公投官方投票手册(Abstimmungsbüchlein)是由瑞士联邦政府在每次全国公投前向所有有投票资格的选民邮寄的官方信息文件，旨在帮助选民在投票前充分了解相关事项并作出决定。

投票手册内容涵盖公投议题说明、背景介绍、赞成与反对理由、政府及议会立场，以及相关法律文本，是选民了解公投议题的重要参考文件。

请继续阅读我们的分析文章，解读捐款与献金在瑞士政坛的威力：

但随着搜索引擎的AI摘要以及聊天机器人的出现，信息来源正变得愈发重要，它们所提供的信息可能在瑞士的民主体系中未经民主辩论就广泛传播开来，而外界却无从知晓那些看似客观冷静的回答其依据又是什么。

AlgorithmWatch CH认为媒体的多样性正遭受威胁

因此Hertweck 提出：“公众需要了解AI摘要的生成方式，要做到信息透明”，“市场权力高度集中在少数企业手中，”这会对媒体的多样性与信息的可靠性造成威胁。

她强调说，谷歌的“零点击搜索”会将经济带入死胡同：“如果用户仅停留在谷歌站内，那么媒体的多样性就会被削弱。因为媒体失去了点击量，优秀的新闻便失去了经济基础。”

而最终AI-概览也会失去其赖以生存的可靠信息来源。Hertweck认为，像谷歌这样的企业应当承认，它们不仅仅是内容的传播者，其人工智能概览也是部分内容的制作者。

一些国际观察家希望，瑞士的人工智能可以成为民主发展的推手。请继续阅读我们的相关文章：

瑞士就传播平台与搜索引擎的立法还存在着一块“灰色地带”，“人工智能生成内容的嵌入并未得到明确监管，虽然其出现频率已越来越多，而AI-概览就是典型的例子”。

“发展速度快得惊人”

Hertweck在瑞士的算法监督组织负责主导名为“RAISD”的研究项目。生成式人工智能之所以会对民主产生影响，是因为它影响着个体的意见形成。而这些个体可能就置身政界。当谈及后续研究计划时Hertweck表示：“除却AI-概览，我们还打算研究聊天机器人在政治领域内的使用，例如政客及其工作人员使用聊天机器人的场景是怎样的。一旦聊天机器人参与到法律的起草进程，那么也会带来深远后果。”

这一探究人工智能、民主与社会三者之间相互作用的研究项目“RAISD”将持续开展至2028年。针对生成式人工智能的发展，Hertweck并不敢做出预判，但她强调：“技术迭代的速度惊人，对政界与科研界来说，都是一项挑战。”

牛津大学研究显示：人工智能可以“操控舆论”

在人与人的辩论中，人工智能同样能发挥作用。牛津大学与波茨坦大学的一项最新研究显示，如果用户把自己写的文本交给人工智能做优化，那么文本出来后可能面目全非。

这项研究发现“通过人工智能进行的传播可操控集体意见”。在这项研究中计算机科研人员让AI模型对观点类帖子进行“优化”，结果发现针对堕胎、女权主义和气候变化这类议题，AI模型会弱化原有观点，甚至将观点反转。

Sandra Wachter教授及其团队推演了交互过程中可能出现的情况：当一篇领英上的帖子其立场已经被AI模型干预，而回帖的立场同样受到AI模型的影响，那么无论是讨论的参与者，还是旁观的外部人员，都会发现辩论已逐步偏移。

Grok的反堕胎倾向

Wachter在回应提问时写到：“我们的研究表明，我们需要就大语言模型及其开发方进行更广泛的讨论，因为立法者在起草《人工智能法》(AI Act)时，尚未意识到这里面的风险”。欧盟的《人工智能法》虽然规定必须对AI的生成内容作出标注，但该标注义务主要针对图像、音频与视频。Wachter表示，文本内容“不太可能”被要求。 其研究结果显示，马斯克旗下的AI模型Grok存在反堕胎倾向。虽然所有的AI模型都具有倾向性，这往往和训练所用的数据、素材有关，但Wachter团队找到证据表明，开发者设置的某一特定提示词，造成了Grok持反堕胎立场的倾向。

(编辑：Samuel Jaberg/jg，编译自德语：宋婷/gj)

如果您对有关民主议题的深度解析感兴趣，请订阅我们的专题时事简讯：